Nel mondo dell'intelligenza artificiale circola un vecchio detto degli informatici: garbage in, garbage out, se entra spazzatura esce spazzatura. Un modello, per quanto sofisticato, è il riflesso dei dati da cui ha imparato. Gli algoritmi più diffusi sono pubblici e documentati; ciò che spesso distingue un sistema affidabile da uno mediocre è il lavoro, poco visibile e molto faticoso, fatto sui dati.
Che cosa sono i dati di addestramento
I dati di addestramento sono gli esempi che il modello osserva per imparare. La loro forma dipende dal compito:
- per un classificatore di immagini, migliaia di foto con l'indicazione di cosa contengono;
- per un sistema che stima i tempi di consegna, lo storico degli ordini con orari, distanze e ritardi;
- per un modello linguistico, enormi raccolte di testo, seguite da esempi di conversazioni ben fatte;
- per un sistema di trascrizione, registrazioni audio abbinate al testo corrispondente.
Da dove arrivano
Le fonti più comuni sono quattro, ognuna con vantaggi e problemi.
- Dati interni. Gestionali, CRM, ticket di assistenza, registri delle macchine. Sono pertinenti, ma spesso disordinati e incompleti.
- Dataset pubblici. Raccolte messe a disposizione da università, enti e comunità di ricerca. Comodi per iniziare, ma non sempre rappresentativi del tuo caso.
- Dati raccolti dal web. Usati soprattutto per i grandi modelli linguistici. Abbondanti, ma con qualità molto variabile e questioni aperte su diritti d'autore e dati personali.
- Dati sintetici. Esempi generati artificialmente, anche da altri modelli. Utili per coprire casi rari, ma vanno dosati: un modello addestrato soprattutto su dati sintetici rischia di amplificarne i difetti.
I difetti più frequenti nei dataset
Etichette sbagliate o incoerenti
Se due persone classificano lo stesso reclamo una come "fatturazione" e l'altra come "spedizione", il modello riceve segnali contraddittori. Bastano percentuali modeste di etichette errate per peggiorare sensibilmente le prestazioni, soprattutto nelle categorie meno numerose.
Squilibrio tra le classi
In un archivio di transazioni bancarie le frodi sono pochissime rispetto ai pagamenti regolari. Un modello pigro potrebbe dire sempre "regolare" e ottenere un'accuratezza apparentemente altissima, senza intercettare una sola frode. Per questo, oltre all'accuratezza, si misurano indicatori come la precisione e il richiamo.
Dati non rappresentativi
Un sistema di riconoscimento vocale addestrato quasi solo su voci di un'area geografica capirà peggio altri accenti. Un modello per prevedere guasti, addestrato su macchinari nuovi, potrebbe non riconoscere i segnali tipici di quelli più vecchi.
Fughe di informazione
Si parla di data leakage quando nei dati di addestramento finisce un'informazione che, nell'uso reale, non sarebbe disponibile al momento della previsione. Esempio classico: per prevedere se un cliente disdirà l'abbonamento, si include per errore il campo "data di chiusura del contratto". Il modello sembra infallibile in fase di test e fallisce appena messo in produzione.
Dati vecchi
Le abitudini cambiano. Un modello di previsione delle vendite addestrato su anni molto diversi da quello attuale può dare indicazioni fuorvianti. Questo fenomeno, chiamato deriva dei dati, impone di monitorare e riaddestrare periodicamente.
Come si preparano dati di qualità
Il lavoro di preparazione segue di solito alcune fasi ricorrenti:
- pulizia: eliminare duplicati, correggere formati (date, valute, unità di misura), gestire i valori mancanti in modo esplicito;
- linee guida di etichettatura: un documento chiaro, con esempi e casi limite, che chi etichetta deve seguire;
- controllo incrociato: far etichettare una parte degli esempi da più persone e misurare quanto concordano;
- bilanciamento: raccogliere più esempi dei casi rari o pesarli diversamente durante l'addestramento;
- documentazione: annotare da dove vengono i dati, quando sono stati raccolti, cosa contengono e cosa manca.
| Problema | Sintomo tipico | Contromisura |
|---|---|---|
| Etichette incoerenti | Prestazioni instabili | Linee guida e doppia revisione |
| Classi sbilanciate | Casi rari mai riconosciuti | Metriche adeguate, ribilanciamento |
| Data leakage | Ottimo in test, pessimo in uso | Verificare cosa è noto al momento della previsione |
| Dati vecchi | Calo graduale dell'accuratezza | Monitoraggio e riaddestramento |
Dati personali e diritti
Quando i dati riguardano persone, entrano in gioco regole precise. Nell'Unione europea il GDPR richiede una base giuridica per il trattamento, il rispetto del principio di minimizzazione e la trasparenza verso gli interessati. In pratica conviene chiedersi sempre se un campo serve davvero: spesso nome, indirizzo o numero di telefono non aggiungono nulla alla qualità del modello e aumentano solo i rischi. Anche pseudonimizzare i dati prima dell'addestramento è una buona abitudine.
Più dati non è sempre meglio
Aggiungere esempi aiuta finché sono pertinenti e corretti. Un dataset di diecimila esempi puliti e ben etichettati può portare risultati migliori di uno dieci volte più grande ma pieno di rumore. Prima di raccogliere altro, vale quasi sempre la pena di migliorare ciò che si ha.
In sintesi
- Un modello riflette i dati da cui impara: errori nei dati diventano errori nelle previsioni.
- I problemi più comuni sono etichette incoerenti, classi sbilanciate, dati non rappresentativi, fughe di informazione e dati vecchi.
- Pulizia, linee guida di etichettatura, revisione incrociata e documentazione sono le difese principali.
- Con dati personali servono base giuridica e minimizzazione, come richiede il GDPR.
