Il prompt injection nei documenti legali è una tecnica con cui istruzioni nascoste all’interno di un atto scritto condizionano il comportamento di un sistema di intelligenza artificiale che lo elabora. Se il tuo studio usa strumenti AI per analizzare atti, contratti o memorie prodotte dalla controparte, un documento manipolato può alterare le risposte del sistema senza che tu te ne accorga. Il rischio non è teorico: un caso giudiziario brasiliano ha già mostrato che questa vulnerabilità è sfruttabile in contesti processuali reali.
Punti chiave
- Punto 1 — Un documento di controparte può contenere istruzioni nascoste che manipolano i tuoi strumenti AI senza lasciare tracce visibili.
- Punto 2 — L’avvocato resta responsabile delle valutazioni prodotte dal proprio studio, anche se generate o influenzate da un sistema AI compromesso.
- Punto 3 — Verificare manualmente i contenuti critici prima di affidarsi all’output AI è una misura di cautela professionale oggi non rinviabile.
Se il tuo studio usa strumenti di intelligenza artificiale per leggere, riassumere o analizzare documenti — atti di controparte, perizie, memorie — devi sapere che quei documenti possono essere costruiti per manipolare le risposte del sistema. Non si tratta di un rischio informatico astratto: si chiama prompt injection e funziona inserendo istruzioni nascoste nel testo, invisibili all’occhio umano ma leggibili dal modello AI. Il risultato è che l’AI ti fornisce un’analisi alterata, e tu potresti agire su quella base.
Il caso che ha acceso l’allarme arriva dal Brasile: nel procedimento noto come caso Galileu, istruzioni nascoste all’interno di un atto processuale hanno dimostrato che documenti destinati ai giudici possono diventare vettori di manipolazione dei sistemi AI impiegati da tribunali, avvocati e consulenti. L’articolo originale è pubblicato da Agenda Digitale.
Il contesto normativo
In Italia non esiste ancora una norma specifica sul prompt injection, ma il quadro giuridico di riferimento è già operativo su più livelli. Il Regolamento UE 2024/1689 (AI Act), applicabile progressivamente dal 2025 al 2027, classifica i sistemi AI usati in ambito giudiziario come sistemi ad alto rischio ai sensi dell’art. 6 e dell’Allegato III, imponendo obblighi di supervisione umana, trasparenza e gestione del rischio a carico dei deployer — categoria che include gli studi legali che adottano questi strumenti. Sul piano deontologico, l’art. 9 del Codice Deontologico Forense impone all’avvocato competenza e aggiornamento: usare uno strumento AI senza conoscerne le vulnerabilità può integrare una violazione di questo obbligo. In materia di responsabilità civile, l’art. 2043 c.c. resta il riferimento per il danno causato al cliente da una valutazione professionale viziata — anche se la causa originaria è un documento manipolato da terzi.
Cosa cambia per lo studio
- Prima di caricare su qualsiasi strumento AI un documento proveniente dalla controparte, valuta se il contesto della causa rende plausibile un tentativo di manipolazione: cause ad alto valore economico o con parti tecnicamente sofisticate alzano il livello di rischio.
- Non usare l’output AI come unica fonte di analisi su atti critici — memoria difensiva, perizia tecnica, contratto contestato. Affianca sempre una lettura diretta del testo originale su almeno i passaggi decisivi.
- Documenta nel fascicolo di studio il processo con cui hai usato lo strumento AI: quale sistema, quale versione, quale documento in input. Questa traccia può diventare rilevante in caso di contestazione sulla qualità della prestazione professionale.
- Se usi un sistema AI fornito da un terzo (software gestionale, piattaforma SaaS), verifica nel contratto di servizio chi risponde in caso di output manipolato: nella maggior parte dei casi, la responsabilità verso il cliente resta in capo allo studio.
- Aggiorna la tua informativa privacy ex art. 13 GDPR se i documenti dei clienti vengono elaborati da sistemi AI di terzi: il trasferimento di dati a un modello esterno richiede una base giuridica e una menzione esplicita.
Attenzione a
Il rischio principale non è l’attacco informatico diretto al tuo sistema, ma la manipolazione passiva: ricevi un documento apparentemente normale, lo carichi nell’AI, e ottieni un’analisi alterata senza alcun segnale di allarme. Nessun antivirus intercetta il prompt injection perché non è malware — è testo. La vulnerabilità sta nel modello AI, non nella tua rete.
Un secondo punto critico riguarda la prova in giudizio. Se la tua strategia processuale si è basata su un’analisi AI compromessa, dimostrare a posteriori l’origine dell’errore è molto difficile: i log dei sistemi AI commerciali non sono sempre accessibili né conservati per la durata necessaria. Questo rende la prevenzione l’unico strumento realmente efficace.
Domande frequenti
Cos’è il prompt injection in un documento legale e come funziona?
Il prompt injection è una tecnica che consiste nell’inserire istruzioni nascoste all’interno di un testo — ad esempio un atto processuale — scritte in modo da essere lette e seguite da un sistema di intelligenza artificiale. L’AI esegue quelle istruzioni invece di limitarsi ad analizzare il contenuto, producendo un output alterato che l’avvocato riceve come se fosse un’analisi normale.
Un avvocato è responsabile se il suo AI legge un documento manipolato e produce un’analisi sbagliata?
Sì. L’avvocato risponde verso il cliente per la qualità della prestazione professionale ai sensi dell’art. 2043 c.c. e delle norme deontologiche, indipendentemente dallo strumento usato. Il fatto che l’errore origini da un documento manipolato da terzi può rilevare nei rapporti interni con il fornitore del software, ma non esonera lo studio dalla responsabilità verso il cliente.
L’AI Act impone obblighi agli studi legali che usano intelligenza artificiale?
Sì. Il Regolamento UE 2024/1689 (AI Act) classifica i sistemi AI in ambito giudiziario come ad alto rischio ai sensi dell’art. 6 e dell’Allegato III. Gli studi legali che li adottano rientrano nella categoria dei deployer e sono tenuti a garantire supervisione umana, valutazione del rischio e trasparenza nell’uso. Le scadenze di applicazione scorrono tra il 2025 e il 2027.
Fonte di riferimento: AgendaDigitale