Un AI agent che esegue azioni autonome su processi aziendali — firma documenti, invia comunicazioni, modifica dati — genera effetti giuridici imputabili a qualcuno. L’AI Act (Reg. UE 2024/1689) impone già obblighi di supervisione umana e tracciabilità per i sistemi ad alto rischio, con sanzioni fino al 3% del fatturato globale. Lo studio legale che assiste imprese nell’adozione di questi strumenti deve verificare che la governance sia definita prima del go-live, non dopo il primo incidente.
Punti chiave
- Punto 1 — L’AI Act classifica molti AI agent come sistemi ad alto rischio con obblighi immediati di conformità.
- Punto 2 — La responsabilità per danni da AI agent ricade sul deployer se mancano supervisione e log tracciabili.
- Punto 3 — Lo studio deve inserire clausole contrattuali specifiche su autonomia, audit trail e responsabilità nelle forniture AI.
Se un AI agent invia una diffida, approva una pratica o modifica un contratto senza intervento umano diretto, qualcuno ne risponde giuridicamente. Per lo studio legale che assiste imprese o PA nell’adozione di questi sistemi, la domanda non è «se» regolamentare, ma «cosa verificare prima che il sistema vada in produzione».
Il tema emerge da un’analisi pubblicata da Agenda Digitale, che segnala come gli AI agent — a differenza dei chatbot — non si limitino a rispondere ma agiscano su processi reali, rendendo indispensabile una governance strutturata prima della messa in produzione.
Il contesto normativo
Il Regolamento UE 2024/1689 (AI Act), applicabile in fasi progressive dal 2024 al 2027, classifica come ad alto rischio i sistemi AI che incidono su processi decisionali rilevanti in ambito lavorativo, creditizio, giudiziario e della pubblica amministrazione. Per questi sistemi, l’art. 9 impone un sistema di gestione del rischio documentato; l’art. 14 richiede supervisione umana effettiva; l’art. 12 impone la registrazione automatica dei log per consentire la tracciabilità delle decisioni. Le sanzioni per i deployer (le organizzazioni che mettono in uso il sistema) arrivano fino al 3% del fatturato annuo globale. Sul piano della responsabilità civile, il quadro si integra con la Direttiva 2085/2024 sulla responsabilità per i prodotti difettosi — che estende il perimetro ai sistemi software — e con il principio generale di responsabilità da attività pericolosa ex art. 2050 c.c., che inverte l’onere della prova a carico dell’operatore.
Cosa cambia per lo studio
- Due diligence pre-contrattuale sull’AI. Prima di assistere un cliente nell’acquisto o nel deployment di un AI agent, occorre mappare la classificazione del sistema secondo l’Allegato III dell’AI Act e verificare se ricade nelle categorie ad alto rischio.
- Clausole contrattuali ad hoc nei contratti di fornitura. I contratti con il vendor devono includere obblighi specifici su: livelli di autonomia consentiti all’agente, formato e conservazione dei log, procedure di override umano e allocazione della responsabilità in caso di danno.
- Policy interna di supervisione documentata. L’art. 14 AI Act non si soddisfa con una generica «possibilità» di intervento umano: serve una procedura scritta che definisca chi supervisiona, con quale frequenza e con quali poteri di interruzione del sistema.
- Verifica della copertura assicurativa. Le polizze RC professionale e RC aziendale standard spesso non coprono danni causati da decisioni automatizzate. Il cliente va avvisato per iscritto di questa lacuna prima dell’adozione.
- Adeguamento dei modelli di organizzazione 231. Per le società soggette al D.Lgs. 231/2001, l’uso di AI agent su processi sensibili richiede l’aggiornamento del MOG e dei protocolli di controllo, con specifico riferimento ai reati informatici e alla corruzione se l’agente opera su gare o approvvigionamenti.
Attenzione a
Governance «a posteriori». Il rischio più frequente è avviare il deployment e rimandare la redazione delle policy a dopo i primi mesi di operatività. In caso di danno occorso in quel periodo, il deployer non potrà dimostrare la conformità all’art. 9 AI Act né invocare la diligenza richiesta dall’art. 2050 c.c. Il danno reputazionale e la sanzione amministrativa si sommano alla responsabilità civile.
Confondere il vendor con il deployer. L’AI Act distingue nettamente il fornitore (provider) dal soggetto che mette in uso il sistema (deployer). Gli obblighi di supervisione, log e gestione del rischio gravano sul deployer — cioè sul cliente dell’avvocato — anche quando il sistema è acquistato «chiavi in mano». Inserire una clausola contrattuale che sposta questi obblighi sul vendor non è sufficiente: la norma li attribuisce per legge all’organizzazione che usa il sistema.
Domande frequenti
Chi risponde legalmente se un AI agent causa un danno in azienda?
Risponde in primo luogo il deployer, cioè l’organizzazione che ha messo in uso il sistema, ai sensi dell’art. 2050 c.c. (responsabilità da attività pericolosa) con inversione dell’onere della prova. L’AI Act (Reg. UE 2024/1689) conferma questa impostazione: gli obblighi di supervisione e tracciabilità gravano sul deployer indipendentemente da chi ha sviluppato il sistema.
Un AI agent rientra nell’ambito di applicazione dell’AI Act?
Dipende dall’uso concreto. Se l’agente opera su processi decisionali rilevanti — risorse umane, credito, PA, giustizia — ricade nelle categorie ad alto rischio dell’Allegato III del Reg. UE 2024/1689. In quel caso scattano obblighi di gestione del rischio (art. 9), supervisione umana (art. 14) e registrazione dei log (art. 12), con sanzioni fino al 3% del fatturato globale.
Cosa deve prevedere il contratto con il fornitore di un AI agent?
Il contratto deve specificare almeno: i livelli di autonomia consentiti all’agente, gli obblighi di conservazione e formato dei log, le procedure di override umano, l’allocazione della responsabilità in caso di danno e le garanzie di conformità all’AI Act. Senza queste clausole, in caso di incidente il deployer resta esposto senza possibilità di rivalsa contrattuale sul vendor.
Fonte di riferimento: AgendaDigitale