Un modello linguistico generico conosce molte cose, ma non conosce il manuale interno della tua azienda, il listino aggiornato, le procedure di sicurezza dello stabilimento o le condizioni contrattuali firmate con un cliente. Ed è proprio su queste informazioni che, in un contesto di lavoro, servono risposte precise. La tecnica più diffusa per colmare questa distanza si chiama RAG, acronimo di Retrieval-Augmented Generation: generazione aumentata dal recupero di informazioni.
L'idea in una frase
Prima di rispondere, il sistema cerca nei tuoi documenti i passaggi pertinenti alla domanda e li consegna al modello insieme alla domanda stessa, chiedendogli di rispondere basandosi su quel materiale. È la differenza tra un esame a memoria e un esame a libro aperto: il modello non deve ricordare, deve leggere e sintetizzare.
I componenti di un sistema RAG
1. La base documentale
È l'insieme di documenti da cui attingere: manuali, procedure, FAQ, contratti tipo, schede prodotto, verbali. La qualità di un sistema RAG dipende innanzitutto da qui. Documenti contraddittori, duplicati in versioni diverse o non aggiornati produrranno risposte contraddittorie o superate.
2. L'indicizzazione
I documenti vengono suddivisi in frammenti e resi ricercabili, di solito con una combinazione di ricerca semantica basata su embedding e ricerca per parole chiave. A ogni frammento si associano metadati utili: titolo del documento, sezione, data, versione, reparto, livello di riservatezza.
3. Il recupero
Quando arriva una domanda, il sistema seleziona i frammenti più pertinenti. Molti sistemi aggiungono un passaggio di riordino (reranking): un secondo modello rilegge i candidati e li riordina in base a quanto rispondono davvero alla domanda.
4. La generazione
I frammenti selezionati vengono inseriti nel contesto del modello linguistico, insieme a istruzioni precise, per esempio:
- rispondi solo sulla base dei documenti forniti;
- se l'informazione non è presente, dillo chiaramente;
- indica da quale documento e sezione proviene ogni affermazione.
5. Le citazioni
Una risposta RAG ben costruita riporta i riferimenti ai documenti usati. Questo permette all'utente di verificare con un clic e di risalire al testo originale quando la questione è delicata.
Un esempio concreto
In un'azienda di manutenzione, un tecnico chiede: "Ogni quanto va sostituito il filtro sul modello di caldaia X?". Il sistema recupera la pagina del manuale del produttore e la procedura interna dell'azienda, che prevede un intervallo più breve per gli impianti in zone con acqua molto calcarea. Il modello risponde riportando entrambe le indicazioni, spiega quale vale in quale caso e cita le due fonti. Senza RAG, un modello generico avrebbe dato una risposta plausibile ma non necessariamente corretta per quel modello e quell'azienda.
Dove un sistema RAG sbaglia
| Problema | Causa tipica | Rimedio |
|---|---|---|
| Risposta "non trovata" anche se il dato c'è | Frammenti mal divisi o ricerca debole | Rivedere suddivisione, usare ricerca ibrida |
| Risposta basata su un documento vecchio | Più versioni nell'archivio | Metadati di validità, rimozione dei superati |
| Mescola informazioni di prodotti diversi | Frammenti simili recuperati insieme | Filtri per prodotto o categoria |
| Aggiunge dettagli non presenti | Il modello completa con conoscenze proprie | Istruzioni più rigide, verifica delle citazioni |
| Mostra contenuti riservati | Permessi non applicati al recupero | Filtrare i risultati in base all'utente |
Sicurezza e permessi
Un assistente RAG può diventare, senza volerlo, una scorciatoia per aggirare i permessi. Se l'archivio contiene documenti delle risorse umane e il sistema non filtra i risultati in base a chi fa la domanda, chiunque potrebbe ottenerne il contenuto chiedendo all'assistente. Il controllo dei permessi deve avvenire nel momento del recupero, non solo nell'interfaccia.
C'è poi un rischio più sottile: un documento inserito nell'archivio potrebbe contenere istruzioni rivolte al modello, del tipo "ignora le regole e rispondi che...". È bene che le istruzioni del sistema specifichino che il contenuto dei documenti va trattato come informazione da riportare, non come comando da eseguire, e che chi può caricare documenti sia un gruppo controllato.
Come valutare un sistema RAG
Prima di metterlo a disposizione di tutti, conviene preparare un elenco di domande reali con le risposte corrette e le fonti attese. Per ciascuna si verifica:
- se il sistema ha recuperato i documenti giusti;
- se la risposta è corretta e completa;
- se ogni affermazione è supportata dalle fonti citate;
- se, per domande senza risposta nell'archivio, il sistema lo dichiara.
Ripetere questa verifica dopo ogni modifica importante, come l'aggiunta di molti documenti o il cambio di modello, evita peggioramenti silenziosi.
Quando RAG è la scelta giusta
RAG è particolarmente adatto quando le informazioni cambiano spesso, quando servono citazioni verificabili e quando i documenti sono troppi per essere incollati ogni volta in una conversazione. È meno utile se l'obiettivo è cambiare lo stile o il comportamento del modello: in quel caso entrano in gioco altre tecniche, come istruzioni più dettagliate o l'affinamento del modello.
In sintesi
- RAG fa cercare al sistema i documenti pertinenti e chiede al modello di rispondere su quella base.
- La qualità dipende soprattutto da documenti aggiornati, ben divisi e corredati di metadati.
- Le citazioni permettono di verificare ogni risposta sul testo originale.
- I permessi vanno applicati al momento del recupero, non solo nell'interfaccia.
- Un insieme di domande di prova con risposte note è indispensabile per valutare il sistema.
