Chi inizia a usare l'intelligenza artificiale in modo strutturato arriva presto a una domanda: come faccio a far lavorare il modello come serve a me? Le risposte possibili sono tre, spesso confuse tra loro: scrivere istruzioni migliori, fornire al modello i documenti giusti, oppure modificarne il comportamento con un ulteriore addestramento, il fine-tuning. Scegliere bene evita di spendere settimane e budget per un problema che si risolveva con un buon prompt.
Tre leve diverse
1. Istruzioni e esempi nel prompt
È la leva più semplice e veloce. Si descrive il compito, il tono, il formato, i vincoli, e si forniscono alcuni esempi di risultato desiderato. Molti servizi permettono di salvare queste istruzioni in modo permanente, come "istruzioni di sistema" di un assistente personalizzato.
Adatta per: formato e stile delle risposte, regole di comportamento, compiti nuovi da sperimentare.
2. Recupero di informazioni (RAG)
Si collega il modello a una base documentale: prima di rispondere, il sistema recupera i passaggi pertinenti e li inserisce nel contesto.
Adatta per: dare al modello conoscenze specifiche e aggiornate, come procedure interne, listini, documentazione tecnica, con citazioni verificabili.
3. Fine-tuning
Si prende un modello già addestrato e lo si addestra ancora su un insieme di esempi propri, in genere coppie di domanda e risposta ideale. I pesi del modello vengono modificati, e il nuovo comportamento diventa parte del modello stesso.
Adatta per: insegnare uno stile molto specifico e costante, un formato di uscita rigido, un compito ristretto e ripetitivo, oppure ottenere prestazioni simili a un modello grande usando un modello più piccolo ed economico.
Un errore frequente: usare il fine-tuning per aggiungere conoscenze
È intuitivo pensare: "addestro il modello sui miei manuali, così li conoscerà". In pratica questo approccio funziona male per i fatti. Il fine-tuning è efficace nel cambiare come il modello risponde, molto meno nel fargli memorizzare cosa dire in modo affidabile. Inoltre, ogni volta che un documento cambia, bisognerebbe ripetere l'addestramento. Per le conoscenze aggiornabili, RAG è quasi sempre la strada giusta.
Confronto pratico
| Criterio | Prompt | RAG | Fine-tuning |
|---|---|---|---|
| Tempo per partire | Minuti | Giorni o settimane | Settimane |
| Dati necessari | Pochi esempi | I documenti esistenti | Centinaia o migliaia di esempi curati |
| Aggiornamento | Immediato | Basta aggiornare i documenti | Nuovo addestramento |
| Conoscenze specifiche | Limitate al contesto | Ottimo | Poco affidabile |
| Stile e formato costanti | Buono | Neutro | Ottimo |
| Competenze richieste | Basse | Medie | Alte |
Come funziona il fine-tuning, in breve
Il processo tipico prevede:
- raccolta degli esempi: input reali e output ideali, rivisti da persone esperte;
- pulizia e bilanciamento, per evitare che il modello impari errori o si specializzi solo sui casi più frequenti;
- addestramento, spesso con tecniche efficienti come LoRA, che invece di modificare tutti i pesi aggiunge piccoli componenti addestrabili, riducendo molto costi e risorse;
- valutazione su esempi tenuti da parte, confrontando il modello affinato con quello di partenza;
- monitoraggio dopo il rilascio.
Un rischio da conoscere è la perdita di capacità generali: un modello affinato in modo aggressivo su un compito ristretto può peggiorare su altri compiti che prima svolgeva bene.
Un percorso consigliato
Nella grande maggioranza dei casi conviene procedere per gradi.
- Parti dal prompt. Scrivi istruzioni chiare, aggiungi esempi, prova su casi reali. Spesso basta.
- Aggiungi RAG se il problema è che il modello non conosce le tue informazioni.
- Valuta il fine-tuning solo se, dopo i primi due passaggi, restano problemi di stile, formato o costo che hai misurato, e se disponi di esempi di qualità in numero sufficiente.
Le tre leve si possono anche combinare: un modello affinato per rispondere sempre in un certo formato può essere collegato a una base documentale e ricevere istruzioni specifiche per ogni utilizzo.
Esempio: un servizio clienti
Un'azienda vuole un assistente che risponda ai clienti sullo stato delle garanzie.
- Con il prompt definisce tono cortese, lunghezza massima e regola di passare a un operatore per i casi di rimborso.
- Con RAG collega le condizioni di garanzia aggiornate e le schede dei prodotti.
- Il fine-tuning entra in gioco solo se, dopo mesi di uso, si vuole trasferire il comportamento su un modello più piccolo per ridurre i costi, usando come esempi le migliori risposte già approvate dagli operatori.
Dati e riservatezza
Gli esempi usati per il fine-tuning diventano parte del modello. Se contengono dati personali o riservati, il modello potrebbe in certi casi riprodurne frammenti. È quindi importante pseudonimizzare gli esempi e verificare con il fornitore dove vengono conservati i dati di addestramento e il modello risultante.
In sintesi
- Le leve per adattare un modello sono tre: prompt, RAG e fine-tuning.
- Il prompt è la soluzione più rapida per stile, formato e regole di comportamento.
- RAG è la scelta giusta per conoscenze specifiche e aggiornabili.
- Il fine-tuning serve per comportamenti costanti, compiti ristretti o riduzione dei costi.
- Procedi per gradi e misura i risultati prima di passare alla leva successiva.
