Errori AI in studio legale: riconoscere le allucinazioni

L’AI sbaglia. E lo fa in modo convincente

Il problema non è che l’intelligenza artificiale commetta errori evidenti. Il problema è che li commette con la stessa sicurezza con cui fornisce risposte corrette. Un numero di sentenza inventato ha lo stesso aspetto tipografico di uno reale. Una norma citata fuori contesto suona esattamente come una citazione puntuale. Un ragionamento giuridico costruito su un presupposto falso può reggere formalmente per tre paragrafi prima che qualcosa non torni.

Per un avvocato, questo è il rischio concreto: non che lo strumento smetta di funzionare, ma che funzioni troppo bene anche quando sbaglia. Capire dove si annidano gli errori — e come intercettarli prima che finiscano in un atto, in una memoria o in una comunicazione al cliente — è la competenza più importante che puoi sviluppare nell’uso quotidiano dell’AI.

Che cos’è un’allucinazione AI e perché accade

Il termine tecnico è allucinazione. Non indica un malfunzionamento nel senso tradizionale del termine: il modello non si è rotto, non ha perso dati, non ha subito un errore di sistema. Ha fatto esattamente quello per cui è stato addestrato — generare testo statisticamente coerente con il contesto — ma lo ha fatto in assenza delle informazioni necessarie per essere accurato.

In pratica: quando un modello linguistico non conosce la risposta giusta, non si ferma. Continua a generare. E genera qualcosa che suona come la risposta giusta. Nel diritto, questo si traduce in:

• Riferimenti giurisprudenziali con numero, sezione e data che non esistono
• Citazioni dottrinali attribuite ad autori reali ma con contenuto inventato
• Massime di sentenze reali riscritte in modo distorto
• Articoli di legge citati con il numero corretto ma con un contenuto parzialmente o totalmente errato
• Pronunce recenti che il modello non conosce perché successive alla sua data di aggiornamento

Non si tratta di casi rari. Chiunque usi Claude o ChatGPT per ricerca giurisprudenziale li incontra regolarmente, specialmente quando i prompt sono vaghi o quando si chiede al modello di citare fonti specifiche senza fornirgli un documento da analizzare.

I tre tipi di errore che devi saper riconoscere

1. L’errore fattuale verificabile

È il più facile da intercettare — se sai dove guardare. Rientra in questa categoria qualsiasi dato oggettivo: numeri di sentenza, estremi normativi, date di entrata in vigore, composizione di sezioni giurisdizionali, esiti di procedimenti pubblici. La regola operativa è una sola: ogni riferimento fattuale fornito dall’AI va verificato su una fonte primaria prima di essere usato.

Per la giurisprudenza italiana, le banche dati di riferimento sono Italgiure e DeJure. Se la sentenza non è rintracciabile su nessuna delle due, non esiste — indipendentemente da quanto sia dettagliata la citazione prodotta dall’AI. Un numero di ruolo plausibile non è una prova di esistenza.

2. L’errore per obsolescenza

Claude e ChatGPT hanno una data di aggiornamento: oltre quella soglia, non hanno informazioni su modifiche normative, nuove pronunce, circolari ministeriali o interventi legislativi. Il modello non lo segnala automaticamente — risponde come se le informazioni fossero aggiornate, a meno che tu non lo interroghi esplicitamente sul punto.

Questo tipo di errore è insidioso perché non riguarda informazioni inventate, ma informazioni vere che hanno smesso di essere vere. Una norma citata correttamente nella versione antecedente a un’ultima modifica. Un orientamento giurisprudenziale superato da un successivo intervento delle Sezioni Unite. Una soglia numerica modificata da un decreto recente.

La risposta operativa è usare Perplexity come verifica finale su tutto ciò che ha rilevanza temporale: lo strumento esegue ricerche in tempo reale sul web e cita le fonti con link diretti. Non sostituisce la verifica su banche dati primarie, ma segnala se qualcosa è cambiato di recente e dove trovare la versione aggiornata.

3. L’errore di ragionamento

È il più difficile da individuare perché richiede valutazione giuridica, non solo verifica fattuale. L’AI può costruire un’argomentazione formalmente coerente su un presupposto sbagliato, applicare una norma al caso sbagliato, o ignorare un’eccezione rilevante che non rientra nel contesto del prompt.

Esempio: chiedi un’analisi dei rimedi esperibili per un vizio di un bene venduto. Il modello risponde citando correttamente gli artt. 1490 e ss. c.c. Ma se il contratto che stai analizzando rientra nel campo di applicazione del Codice del Consumo, il regime è diverso — e il modello potrebbe non segnalartelo se non hai incluso quella specificazione nel prompt.

Contro questo tipo di errore non esiste una verifica meccanica. La sola difesa è la lettura critica dell’output da parte di chi conosce il diritto applicabile. L’AI non sostituisce il ragionamento giuridico: lo supporta. La distinzione non è retorica — è la differenza tra uno strumento utile e un rischio professionale.

Dove gli errori si nascondono nei casi pratici

Ricerca giurisprudenziale

Chiedere a Claude o ChatGPT di “trovare sentenze” su un determinato orientamento è una delle operazioni più a rischio. Il modello non cerca in una banca dati: genera testo che somiglia a citazioni giurisprudenziali basandosi su pattern statistici. Il risultato può includere sentenze reali (ma con massime alterate), sentenze con dati identificativi inventati, o sentenze completamente fittizie ma formalmente credibili.

La modalità corretta è diversa: fornisci tu il testo della sentenza — caricandola come documento in Claude — e chiedi al modello di analizzarla, sintetizzarla, estrarne i passaggi rilevanti. In questo caso stai lavorando su un documento reale, e il rischio di allucinazione si riduce drasticamente.

Analisi di contratti e atti

Su questo tipo di compito Claude è particolarmente affidabile, a condizione che il documento venga caricato per intero. Il modello analizza ciò che c’è nel testo, non ciò che immagina. Il rischio residuo riguarda il richiamo a norme esterne al documento: quando il modello cita una disposizione del codice civile per inquadrare una clausola, quella citazione va sempre verificata.

Comunicazioni al cliente

Il rischio qui è diverso: non l’invenzione di dati, ma la semplificazione eccessiva o la trasmissione di un’informazione giuridicamente imprecisa in un linguaggio che il cliente percepisce come definitivo. Prima di inviare qualsiasi comunicazione generata o assistita dall’AI, rileggi con l’occhio del professionista, non del redattore.

Il protocollo di verifica: quattro passaggi obbligatori

Non serve un sistema complicato. Serve un metodo applicato con costanza.

1. Isola ogni dato fattuale — numeri di sentenza, estremi normativi, date, soglie quantitative. Segnali, anche solo mentalmente, tutto ciò che è verificabile in modo oggettivo.
2. Verifica su fonte primaria — per le sentenze, Italgiure o DeJure. Per le norme, il testo ufficiale su Normattiva o Gazzetta Ufficiale. Non basta che il risultato compaia su un sito di commenti giuridici o su un portale di informazione legale.
3. Controlla la data — per ogni norma citata, verifica se è stata modificata dopo la data di aggiornamento del modello. Per ogni orientamento giurisprudenziale, verifica se ci sono pronunce successive rilevanti.
4. Valuta il ragionamento — leggi l’output come faresti con una bozza prodotta da un praticante: con attenzione critica, cercando presupposti impliciti, eccezioni non considerate, richiami a istituti non pertinenti.

Cosa fare quando il modello cita fonti che non trovi

Capita. Il numero di sentenza è plausibile, la sezione corrisponde a una sezione esistente, la data è coerente con il periodo di attività del collegio. Ma su Italgiure non compare nulla.

La risposta è secca: quella sentenza non esiste, o non è nel patrimonio informativo del modello nella forma in cui è stata citata. Non tentare di usarla in forma dubitativa —

---

Domande frequenti

Cosa si intende per allucinazione AI nel contesto legale?

Per allucinazione si intende la tendenza dei modelli linguistici a generare informazioni false o inesistenti con la stessa apparente sicurezza con cui forniscono dati corretti. Nel contesto legale questo si manifesta principalmente come citazione di sentenze con numeri di ruolo inventati, massime giurisprudenziali distorte, riferimenti normativi imprecisi o ragionamenti giuridici costruiti su presupposti errati. Il termine non indica un malfunzionamento tecnico: il modello sta semplicemente generando testo statisticamente coerente con il contesto, anche in assenza delle informazioni necessarie per essere accurato.

Come verifico se una sentenza citata dall’AI esiste davvero?

La verifica va effettuata su banche dati primarie: Italgiure (italgiure.giustizia.it), DeJure o Leggiditalia per la giurisprudenza italiana. Se la sentenza non è rintracciabile con gli estremi forniti dall’AI su nessuna di queste piattaforme, non va usata — indipendentemente da quanto la citazione sembri formalmente accurata. Un numero di ruolo plausibile non è prova di esistenza. In alternativa, puoi usare Perplexity per una ricerca web con i termini pertinenti: lo strumento citerà le fonti effettive da cui provengono le informazioni, permettendoti di risalire a pronunce reali sull’argomento.

Posso caricare un contratto del cliente su Claude o ChatGPT per farlo analizzare?

Sì, ma solo dopo averlo anonimizzato. I dati personali dei clienti — nomi, codici fiscali, indirizzi, riferimenti a procedimenti in corso — non devono mai essere inseriti nei prompt di strumenti AI generativi. Questi strumenti non sono piattaforme certificate per il trattamento di dati personali ai sensi del GDPR, e l’inserimento di dati identificativi costituisce un inadempimento rispetto agli obblighi del titolare del trattamento. La soluzione è sostituire tutti i dati sensibili con segnaposto prima di caricare il documento: la qualità dell’analisi non cambia, e il tuo studio rimane al riparo da esposizioni non necessarie.

Come faccio a sapere se una norma citata dall’AI è ancora in vigore?

Claude e ChatGPT hanno una data di aggiornamento oltre la quale non dispongono di informazioni su modifiche normative. Il modello non segnala automaticamente questa limitazione: risponde come se le informazioni fossero aggiornate. Per verificare lo stato attuale di una norma, controlla il testo ufficiale su Normattiva o Gazzetta Ufficiale. Per un controllo rapido su modifiche recenti, Perplexity è lo strumento più diretto: esegue ricerche in tempo reale sul web e indica se ci sono aggiornamenti successivi alla data di aggiornamento del modello che stai usando.

L’uso dell’AI mi espone a responsabilità disciplinari?

L’uso in sé non è vietato dal codice deontologico forense, ma la responsabilità professionale sull’output rimane interamente dell’avvocato. Il Consiglio Nazionale Forense ha chiarito che l’impiego di strumenti tecnologici non modifica i termini della diligenza richiesta al professionista: verificare l’accuratezza degli strumenti utilizzati rientra negli obblighi ordinari. Questo significa che usare un’analisi AI non verificata in un atto, in una memoria o in una comunicazione al cliente — e che quell’analisi si riveli errata — non è una difesa valida sul piano disciplinare. La firma sull’atto implica la validazione del contenuto, indipendentemente da come quel contenuto è stato prodotto.