RAG (Retrieval-Augmented Generation): definizione e funzionamento

Il RAG è uno dei mattoni tecnici che alimentano gli agenti IA autonomi di oggi, accanto alla chiamata di strumenti e alla memoria persistente. La sigla viene da un articolo di ricerca pubblicato nel maggio 2020 da un team di Facebook AI Research (oggi Meta), con Patrick Lewis in testa. All'epoca, la constatazione era semplice: i grandi modelli linguistici immagazzinano una quantità impressionante di sapere nei propri parametri, ma non possono né aggiornarlo facilmente, né rimandare con precisione a una fonte. Il RAG propone una soluzione: lasciare che il modello vada a cercare l'informazione in una base esterna al momento di rispondere, invece di far poggiare tutto sulla propria memoria fissata durante l'addestramento.

Definizione dettagliata

Retrieval-Augmented Generation, o generazione aumentata dalla ricerca, indica un'architettura che combina due mattoni distinti: un meccanismo di ricerca (retrieval) che va a cercare passaggi pertinenti in una base documentale esterna, e un modello di generazione di testo che redige la risposta finale a partire da questi passaggi. Nell'articolo fondativo di Lewis e coautori (NeurIPS 2020), il RAG associa una memoria parametrica (le conoscenze interne del modello preaddestrato) e una memoria non parametrica (una base di documenti consultata al volo), per migliorare le prestazioni su attività che richiedono conoscenze precise.

Il consenso attorno a questa definizione è ampio: che si tratti della letteratura accademica o delle spiegazioni divulgative come quella di NVIDIA, il RAG rimanda sempre a questa stessa meccanica in due tempi, cercare poi generare. Le divergenze riguardano soprattutto l'implementazione tecnica (tipo di base vettoriale, metodo di suddivisione dei documenti, numero di passaggi recuperati), non la definizione del principio in sé.

Il RAG risponde a due limiti noti dei modelli linguistici: le allucinazioni, quando il modello inventa una risposta plausibile ma falsa, e l'obsolescenza, quando un'informazione è cambiata dal momento dell'addestramento del modello. Ancorando la generazione a documenti reali e aggiornati, il RAG riduce questi due problemi senza richiedere di riaddestrare il modello.

Come funziona

Il percorso tipico di una richiesta RAG segue tre passaggi. Prima di tutto, la domanda dell'utente (o il bisogno di un agente) viene trasformata in una ricerca in una base documentale, spesso tramite una ricerca di somiglianza su rappresentazioni vettoriali del testo, a volte combinata con una ricerca per parole chiave classica. Poi, i passaggi più pertinenti riportati da questa ricerca vengono inseriti nel contesto inviato al modello linguistico, in aggiunta alla domanda iniziale. Infine, il modello genera la propria risposta appoggiandosi a questi passaggi, idealmente citandoli o allineandosi al loro contenuto invece di improvvisare.

Questa meccanica si presta bene all'uso da parte di un agente IA autonomo: la ricerca documentale può essere esposta come uno strumento che l'agente chiama da sé, nel momento in cui ritiene di averne bisogno, invece di essere sistematicamente attivata prima di ogni risposta. È la differenza tra un RAG "statico", collegato a monte di ogni richiesta, e un RAG "agentico", in cui il modello decide quando cercare, cosa cercare, e se deve cercare di nuovo se il primo risultato non basta.

Esempio concreto con Atako

La documentazione pubblica di Atako non descrive nel dettaglio l'architettura interna di ricerca documentale usata dai suoi agenti, quindi è impossibile affermare qui che Atako utilizzi il RAG nel senso stretto dell'articolo di Lewis et al. Ciò che è documentato, invece, è il meccanismo più vicino: ogni agente dispone di una libreria di file condivisa dall'azienda, organizzata in cartelle, con formati anteprimabili (Markdown, CSV, JSON, PDF, HTML, immagini, testo, codice sorgente). Questi file possono essere condivisi con un agente in lettura, o aggiunti direttamente in una cartella dedicata all'agente, da una persona o dall'agente stesso.

Questa libreria di file, combinata con la memoria persistente di un agente che sopravvive ai riavvii e alle pause, svolge il ruolo di base di conoscenza esterna che l'agente può consultare prima di rispondere o agire, il che corrisponde nello spirito al principio del RAG: andare a cercare informazione reale invece di appoggiarsi unicamente a ciò che il modello ha memorizzato durante l'addestramento. Un agente configurato per il supporto clienti, ad esempio, può consultare file di documentazione di prodotto condivisi nella propria cartella prima di rispondere a un ticket, invece di indovinare la risposta.

Errori frequenti

Prima confusione frequente: credere che il RAG sia una funzionalità che si attiva con un clic, come un pulsante in un software. È in realtà un'architettura, con scelte tecniche concrete (come suddividere i documenti, come indicizzarli, quanti passaggi riportare) che determinano direttamente la qualità delle risposte.

Secondo errore: pensare che il RAG elimini totalmente le allucinazioni. Le riduce ancorando la generazione a documenti verificabili, ma un modello può ancora interpretare male un passaggio, o generare una risposta a partire da documenti non pertinenti riportati da una ricerca imperfetta. Il RAG sposta il rischio, non lo elimina.

Terzo errore: confondere RAG e fine-tuning. Il fine-tuning modifica in modo duraturo il modello riaddestrandolo su dati specifici; il RAG lascia il modello intatto e gli aggiunge una base esterna consultata a ogni richiesta, il che è più rapido da aggiornare e generalmente meno costoso.

Infine, sottovalutare l'importanza della qualità della base documentale è un errore classico. Un sistema RAG collegato a documenti obsoleti, mal strutturati o incompleti produrrà risposte di scarsa qualità, qualunque sia la potenza del modello di generazione usato dietro.