Quando un sistema AI agisce in autonomia — esegue istruzioni, invia comunicazioni, prende decisioni — la catena di responsabilità si spezza rispetto agli schemi tradizionali. Né il codice civile né il AI Act nella sua attuale fase applicativa coprono in modo esplicito il danno prodotto da un agente AI che opera senza supervisione umana diretta. Lo studio legale che consiglia un cliente sull’adozione di questi sistemi deve oggi anticipare il problema contrattuale e di governance, non aspettare il contenzioso.
Punti chiave
- Punto 1 — Un agente AI che agisce in autonomia può generare responsabilità extracontrattuale ex art. 2050 c.c. per attività pericolosa.
- Punto 2 — Il AI Act (Reg. UE 2024/1689) classifica i sistemi ad alto rischio: i sistemi agentici in contesti PA rientrano spesso in questa fascia.
- Punto 3 — Senza clausole contrattuali specifiche su supervisione e audit trail, il cliente resta esposto senza tutele chiare.
Ogni volta che un cliente adotta un agente AI con poteri decisionali autonomi — prenotare, inviare, approvare, eseguire — si apre una zona grigia di responsabilità che i contratti standard non coprono. Prima di estendere questi sistemi, serve una mappatura dei rischi legali e un’architettura di controllo umano documentata. Chi consiglia oggi senza farlo, domani risponde di negligenza professionale.
Secondo un’analisi pubblicata da Agenda Digitale, i rischi degli agenti AI crescono in modo diretto con il livello di autonomia concessa: dalle prime sperimentazioni nella PA e nelle imprese emerge che controlli, responsabilità e supervisione umana vanno progettati prima del deployment, non aggiunti in corsa.
Il contesto normativo
Il riferimento centrale è il Regolamento UE 2024/1689 (AI Act), in vigore dal 1° agosto 2024 e applicabile per fasi fino al 2027. L’art. 6 e l’Allegato III classificano come ad alto rischio i sistemi AI impiegati in contesti amministrativi pubblici e nella gestione di infrastrutture critiche — categorie in cui gli agenti autonomi rientrano con frequenza crescente. Per questi sistemi scattano obblighi di registrazione, valutazione della conformità e documentazione tecnica che ricadono sul deployer, non solo sul fornitore.
Sul piano della responsabilità civile domestica, l’art. 2050 c.c. resta il punto di aggancio più solido: chi esercita un’attività pericolosa risponde del danno salvo prova di aver adottato tutte le misure idonee a evitarlo. La Cassazione Civile ha confermato in più occasioni (tra cui Cass. Civ. n. 13.161/2022) che il carattere innovativo di una tecnologia non esclude la qualificazione dell’attività come pericolosa. Un agente AI che opera su dati sensibili o prende decisioni con effetti patrimoniali rientra facilmente in questo perimetro.
Cosa cambia per lo studio
- Revisione dei contratti di fornitura software: i contratti che introducono funzionalità agentiche vanno integrati con clausole su audit trail, limiti di autonomia e allocazione esplicita della responsabilità per azioni non autorizzate del sistema.
- Due diligence pre-adozione per i clienti: prima che un cliente deploy un agente AI in contesti PA o ad alto impatto, lo studio deve verificare la classificazione del sistema ai sensi dell’Allegato III AI Act e l’esistenza di un registro di conformità.
- Clausole di supervisione umana nei mandati: se lo studio stesso usa agenti AI per redazione, ricerca o comunicazioni verso terzi, ogni mandato professionale deve specificare che l’output finale è sottoposto a revisione umana — pena possibile violazione dell’art. 7 del Codice Deontologico Forense (diligenza professionale).
- Documentazione del processo decisionale: in caso di contenzioso, la prova dell’adozione di misure idonee ex art. 2050 c.c. passa dalla capacità di ricostruire ogni azione del sistema. Senza log strutturati e conservati, la difesa è compromessa.
- Formazione minima del personale: il AI Act impone agli operatori di sistemi ad alto rischio una competenza tecnica adeguata (art. 4). Delegare senza formare espone il deployer a sanzioni amministrative fino al 3% del fatturato globale annuo.
Attenzione a
Confondere l’agente AI con un semplice strumento passivo. Un chatbot che risponde è diverso da un agente che invia email, modifica documenti o attiva procedure per conto del cliente. La distinzione è giuridicamente rilevante: solo nel secondo caso si pone un problema serio di imputazione dell’atto e di validità degli effetti prodotti verso terzi. Presentare i due casi allo stesso modo in un parere è un errore che può costare caro.
Trascurare la responsabilità del deployer rispetto al fornitore. Sotto il AI Act, chi mette in opera il sistema — non solo chi lo costruisce — ha obblighi propri. Un cliente che adotta un agente AI commerciale senza personalizzarlo non è automaticamente al sicuro: se lo usa in un contesto ad alto rischio, acquisisce lo status di deployer con tutti gli obblighi connessi.
Domande frequenti
Chi risponde dei danni causati da un agente AI che agisce in autonomia?
In assenza di una norma specifica, il punto di aggancio è l’art. 2050 c.c. sull’attività pericolosa. Risponde chi esercita l’attività — tipicamente il deployer — salvo prova di aver adottato tutte le misure idonee. Il fornitore del software può concorrere nella responsabilità se il difetto è originario del sistema, ma il deployer non si libera per il solo fatto di aver acquistato uno strumento commerciale.
Un agente AI usato da uno studio legale per comunicare con i clienti viola il codice deontologico?
Non necessariamente, ma l’art. 7 del Codice Deontologico Forense impone diligenza professionale. Se l’agente invia comunicazioni senza revisione umana e produce errori o omissioni rilevanti, la responsabilità disciplinare è concreta. La soluzione minima è documentare nel mandato che ogni output dell’agente passa sotto controllo dell’avvocato prima della trasmissione.
Quali obblighi impone il AI Act a chi usa agenti AI in un contesto amministrativo pubblico?
I sistemi agentici impiegati in contesti PA rientrano spesso nell’Allegato III del Reg. UE 2024/1689 come sistemi ad alto rischio. Il deployer deve effettuare una valutazione di conformità, mantenere documentazione tecnica aggiornata, garantire supervisione umana e formare il personale in modo adeguato. Le sanzioni per inosservanza arrivano fino al 3% del fatturato globale annuo.
Fonte di riferimento: AgendaDigitale