La prompt injection negli atti giudiziari consiste nell’inserimento di comandi nascosti, invisibili all’occhio umano, destinati a manipolare i sistemi di intelligenza artificiale che analizzano documenti processuali. Per uno studio legale italiano, il rischio concreto è duplice: subire un atto avversariale manipolato e, al tempo stesso, essere ritenuto responsabile per un documento prodotto con strumenti IA che hanno elaborato istruzioni nascoste. Il quadro normativo di riferimento tocca la responsabilità disciplinare dell’avvocato, le norme sul falso in atti giudiziari e le regole deontologiche sull’uso degli strumenti tecnologici.
Punti chiave
- Punto 1 — Un tribunale brasiliano ha identificato comandi nascosti per IA all’interno di un ricorso formalmente regolare.
- Punto 2 — Lo studio legale che usa IA per analizzare atti altrui può elaborare istruzioni malevole senza accorgersene.
- Punto 3 — In Italia manca una norma specifica, ma la responsabilità forense e penale può scattare già con le regole vigenti.
Se il tuo studio usa strumenti di intelligenza artificiale per leggere, riassumere o analizzare atti processuali, da oggi devi aggiungere una voce al tuo protocollo di sicurezza: verificare che il documento non contenga istruzioni nascoste rivolte al sistema IA. Non è fantascienza. È già successo in un’aula di tribunale, e le implicazioni per la responsabilità forense sono immediate.
Un tribunale del lavoro brasiliano ha individuato all’interno di un ricorso un testo nascosto contenente un comando diretto ai sistemi di intelligenza artificiale, progettato per alterare le risposte degli strumenti automatizzati che elaborano gli atti. La notizia è stata riportata da Agenda Digitale e apre scenari diretti anche per il processo telematico italiano.
Il contesto normativo
L’ordinamento italiano non disciplina ancora la prompt injection come fattispecie autonoma, ma gli strumenti esistenti coprono già molti profili di rischio. Sul piano penale, l’inserimento di contenuti ingannevoli in un atto destinato all’autorità giudiziaria può integrare il reato di frode processuale ai sensi dell’art. 374 c.p., o il falso in atti giudiziari ex artt. 374 e 476 c.p., a seconda della natura pubblica o privata del documento. Sul piano deontologico, l’art. 9 del Codice Deontologico Forense impone all’avvocato il dovere di lealtà e probità, che si estende agli strumenti tecnologici adoperati nella redazione e nell’analisi degli atti. Il Regolamento UE 2024/1689 sull’intelligenza artificiale (AI Act), applicabile progressivamente dal 2025 al 2027, introduce obblighi di trasparenza e controllo umano per i sistemi IA ad alto rischio, categoria che include le applicazioni nel settore della giustizia (art. 6 e Allegato III).
Cosa cambia per lo studio
- Prima di caricare qualsiasi atto di controparte su uno strumento IA per l’analisi, verifica la presenza di testo nascosto: usa la funzione “mostra formattazione” o esporta il PDF in testo grezzo e controlla anomalie visive come font bianchi su sfondo bianco, dimensioni zero o livelli nascosti.
- Aggiorna il tuo protocollo interno sull’uso degli strumenti IA: chi in studio usa ChatGPT, Copilot o sistemi analoghi per leggere atti processuali deve sapere che l’output può essere stato compromesso a monte dal documento stesso.
- Quando produci un atto con il supporto di IA, conserva il log della sessione o una copia dello scambio con il sistema: in caso di contestazione disciplinare o penale, dimostrare che il contenuto è stato revisionato e approvato da un professionista umano è la tua prima linea di difesa.
- Segnala tempestivamente al giudice e alle parti qualsiasi anomalia rilevata in un atto avversariale: il silenzio su una frode processuale scoperta può trasformarsi in corresponsabilità per omessa denuncia o violazione del dovere di lealtà processuale.
- Monitora l’evoluzione giurisprudenziale italiana: il Tribunale di Roma e alcune Corti d’Appello stanno già affrontando questioni legate all’uso dell’IA nella redazione degli atti, e i precedenti stranieri — compreso quello brasiliano — vengono citati nei provvedimenti come elementi di contesto.
Attenzione a
Il rischio più sottovalutato non è subire un attacco, ma produrne uno involontariamente. Se utilizzi template o frammenti di testo recuperati da banche dati esterne o condivisi da colleghi senza una verifica approfondita, potresti incorporare nel tuo atto comandi nascosti inseriti a monte da terzi. La responsabilità disciplinare si valuta sul risultato, non sull’intenzione.
Secondo rischio: affidarsi all’IA per il controllo dell’IA. Usare uno strumento di intelligenza artificiale per verificare che un documento non contenga prompt injection è circolare e inaffidabile. Serve un controllo umano diretto sul testo grezzo del file, indipendentemente da quanto il sistema dichiari di non aver rilevato anomalie.
Domande frequenti
Cos’è la prompt injection in un atto giudiziario e come si riconosce?
È l’inserimento di testo nascosto all’interno di un documento processuale, progettato per dare istruzioni a un sistema IA che legge quell’atto. Si riconosce esportando il PDF in formato testo grezzo e cercando contenuti non visibili nella versione stampata: font bianchi, dimensione carattere zero, livelli nascosti o metadati anomali.
Un avvocato italiano rischia conseguenze penali se trova un comando nascosto in un atto avversariale?
Se lo scopre e non lo segnala, può configurarsi una violazione del dovere di lealtà processuale ex art. 9 Codice Deontologico Forense. Chi ha inserito il comando, invece, rischia la contestazione di frode processuale ai sensi dell’art. 374 c.p. o falso in atti giudiziari ex art. 476 c.p., a seconda della qualifica del documento.
L’AI Act europeo regola già la prompt injection nei documenti processuali?
Non la nomina esplicitamente, ma il Regolamento UE 2024/1689 (AI Act) classifica i sistemi IA applicati alla giustizia come ad alto rischio nell’Allegato III, imponendo obblighi di trasparenza e supervisione umana. Il mancato controllo sull’output di questi strumenti può già configurare una violazione degli obblighi previsti dagli artt. 6 e seguenti, applicabili progressivamente fino al 2027.
Fonte di riferimento: AgendaDigitale