i modelli
RAG
Retrieval-Augmented Generation
Il RAG (Retrieval-Augmented Generation) è l’architettura in cui un sistema recupera documenti pertinenti da un indice e li passa al modello come contesto, così che la risposta sia ancorata a fonti reali e citabili.
2020
L’anno del paper di Lewis e colleghi che ha introdotto il RAG, presentato a NeurIPS.
3
I compiti di domanda aperta su cui il RAG ha fissato il nuovo stato dell’arte nello studio originale.
U
La forma della curva di accuratezza per posizione nel contesto: alta ai bordi, bassa al centro (Liu et al., 2024).
Sei cose da sapere
- Il RAG unisce due memorie: quella interna del modello, appresa in addestramento, e una esterna, un indice di documenti consultato al momento.
- È l’architettura che permette a un sistema di rispondere su fatti recenti e di indicare le fonti.
- La conoscenza si aggiorna sostituendo o ampliando l’indice, senza riaddestrare il modello.
- Il recupero lavora su frammenti di testo, non su pagine intere.
- I frammenti recuperati non pesano tutti allo stesso modo: la posizione nel contesto conta.
- Per chi pubblica, il RAG è il meccanismo che rende la GEO praticabile in tempi utili.
Dalla domanda alla risposta, in quattro passaggi
Ogni passaggio è un filtro. Una pagina deve superarli tutti per finire citata.
Indicizzazione
I documenti vengono spezzati in frammenti e trasformati in vettori numerici che ne rappresentano il significato. È un lavoro fatto prima, non al momento della domanda.
Recupero
La domanda dell’utente viene trasformata allo stesso modo e confrontata con l’indice: tornano i frammenti con il significato più vicino.
Selezione e ordinamento
I frammenti recuperati vengono filtrati e ordinati prima di essere passati al modello. L’ordine non è neutro: ciò che sta in mezzo a un contesto lungo viene usato peggio.
Generazione
Il modello scrive la risposta condizionata sui frammenti ricevuti e, nei sistemi di ricerca, indica da quali documenti provengono.
Che cosa dice la ricerca
3
Compiti di domanda aperta su cui il RAG ha superato sia i modelli puramente generativi sia le architetture specializzate.
Lewis et al., 2020
0
Riaddestramenti necessari per aggiornare la conoscenza del sistema: basta sostituire l’indice dei documenti.
Lewis et al., 2020
10 / 20 / 30
I documenti passati ai modelli negli esperimenti: in tutti i casi l’accuratezza cala quando l’informazione utile sta nel mezzo.
Liu et al., 2024
1 fatto
L’unità di recupero più efficace: proposizioni atomiche e autosufficienti superano i passaggi lunghi.
Chen et al., 2024
- Nel lavoro di Lewis i modelli RAG hanno prodotto testo più specifico, vario e fattuale di un modello solo parametrico. La memoria esterna era un indice vettoriale di Wikipedia.
- La curva a U di Liu e colleghi compare in tutti i modelli testati, compresi quelli progettati esplicitamente per contesti lunghi.
Memoria interna e memoria esterna
| Aspetto | Memoria interna | Memoria esterna (indice) |
|---|---|---|
| Dove sta | Nei pesi del modello | In un indice di documenti |
| Come si aggiorna | Riaddestrando | Sostituendo o ampliando l’indice |
| Fonti | Non indicabili | Indicabili, il documento è noto |
| Rischio tipico | Affermazioni plausibili ma non verificabili | Frammento sbagliato o mal ordinato |
| Cosa puoi influenzare | Quasi nulla, nel breve periodo | Indicizzazione e qualità dei frammenti |
Un caso concreto
Un buyer chiede: “quali compressori a vite hanno la migliore efficienza energetica sotto i 30 kW?”
Il sistema scompone la domanda, interroga l’indice e recupera una dozzina di frammenti: schede prodotto, articoli di testate tecniche, un comparatore.
Una scheda prodotto che riporta i valori di efficienza in una tabella leggibile, con unità di misura e norma di prova, produce un frammento che risponde. Una scheda con gli stessi valori dentro un’immagine o un PDF scaricabile rischia di non produrre nessun frammento utilizzabile.
Il prodotto è lo stesso. La differenza è se il suo dato esiste come testo recuperabile.
Che cosa ne ricava chi pubblica
Il RAG decide in due momenti, recupero e selezione, e in entrambi il testo della pagina è l’unica cosa che il sistema vede.
- I dati importanti devono esistere come testo nella pagina, non solo in immagini, PDF o elementi caricati via script.
- Ogni paragrafo dovrebbe contenere un’unità di significato completa, perché verrà indicizzato e recuperato da solo.
- La risposta a una domanda va messa all’inizio del blocco che la tratta.
- Le pagine vanno tenute aggiornate: il recupero guarda il web com’è adesso, non com’era al momento dell’addestramento.
frequenti
Domande frequenti sul RAG
Tutti i chatbot usano il RAG?
Non sempre. Molte interfacce attivano il recupero solo quando la domanda lo richiede; in altri casi rispondono dalla memoria del modello. Se una risposta riporta fonti con link, quasi certamente c’è stato un recupero.
Il RAG elimina le allucinazioni?
Le riduce, non le elimina. Shuster e colleghi hanno mostrato che il recupero riduce sostanzialmente l’invenzione di fatti nei sistemi conversazionali, ma il modello può ancora fraintendere o combinare male i frammenti ricevuti.
Che cosa decide quali frammenti vengono recuperati?
La vicinanza di significato tra domanda e frammento, calcolata sui vettori. Un paragrafo che usa gli stessi concetti con cui le persone formulano la domanda ha più probabilità di tornare tra i risultati.
Perché conta dove sta un’informazione?
Liu e colleghi hanno mostrato che i modelli usano meglio le informazioni all’inizio o alla fine del contesto che quelle nel mezzo. Per chi scrive, la regola prudente è mettere l’informazione decisiva all’inizio di ogni blocco.
RAG e motore generativo sono la stessa cosa?
Il RAG è l’architettura, il motore generativo è il prodotto. ChatGPT con ricerca, Perplexity e le AI Overviews applicano varianti di questo schema: recupero di documenti, poi generazione.
Quanto velocemente una pagina nuova entra nel recupero?
Appena è indicizzata dal sistema che la cerca. Non serve attendere un nuovo addestramento del modello: è la differenza principale rispetto alla memoria interna.
Riferimenti
Lewis, P. et al. — Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
NeurIPS 2020. arxiv.org/abs/2005.11401
Liu, N. F. et al. — Lost in the Middle: How Language Models Use Long Contexts
TACL, vol. 12, 2024. aclanthology.org/2024.tacl-1.9
Shuster, K. et al. — Retrieval Augmentation Reduces Hallucination in Conversation
Findings of EMNLP 2021. aclanthology.org/2021.findings-emnlp.320
Chen, T. et al. — Dense X Retrieval: What Retrieval Granularity Should We Use?
EMNLP 2024. aclanthology.org/2024.emnlp-main.845
Consulente GEO · Kraków / Milano
Aiuta le aziende italiane a farsi menzionare e citare da ChatGPT, Gemini, Perplexity e AI Overviews. Vent’anni tra imprenditoria e consulenza digitale in Italia: ha guidato la strategia SEO di Bakeca.it, co-fondato e diretto Seolab, e dal 2022 è Evangelist in Digital360, prima SEO e oggi GEO. Laurea in Linguistica all’Università di Torino.