Quando un cliente esercita il diritto alla cancellazione ex art. 17 GDPR nei confronti di un titolare che usa sistemi di intelligenza artificiale, la semplice eliminazione del dato grezzo non basta: il modello AI potrebbe aver già appreso da quel dato e continuare a produrre output influenzati da esso. Il machine unlearning è l’insieme di tecniche che consente di rimuovere l’influenza di specifici dati già incorporati in un modello addestrato, e la sua assenza può configurare una violazione persistente degli obblighi del titolare del trattamento. Per uno studio legale o un commercialista che assiste aziende che usano AI, questo apre fronti di responsabilità nuovi e ancora poco presidiati dalla prassi.
Punti chiave
- Punto 1 — Il diritto all’oblio ex art. 17 GDPR si applica anche ai modelli AI già addestrati sui dati dell’interessato.
- Punto 2 — Cancellare il dato grezzo non esaurisce l’obbligo: occorre neutralizzare l’influenza residua nel modello.
- Punto 3 — La mancanza di procedure di machine unlearning può esporre il titolare a sanzioni fino al 4% del fatturato globale.
Se assisti un’azienda che utilizza sistemi di intelligenza artificiale addestrati su dati personali, hai un problema pratico immediato: quando un interessato chiede la cancellazione dei propri dati, il tuo cliente non può limitarsi a eliminare i record dal database. Il modello AI potrebbe aver già incorporato quelle informazioni nella propria struttura interna, continuando a produrre output che ne riflettono l’influenza. Questa lacuna operativa è oggi uno dei punti più vulnerabili nella compliance GDPR delle imprese che fanno uso intensivo di AI.
Il tema emerge con forza da un approfondimento pubblicato da Agenda Digitale, che descrive le tecniche di machine unlearning — cioè i metodi per «disinsegnare» a un modello ciò che ha appreso da dati specifici — come risposta tecnica necessaria alle tutele previste dal GDPR in materia di diritto alla cancellazione.
Il contesto normativo
L’art. 17 del Regolamento UE 2016/679 (GDPR) riconosce all’interessato il diritto di ottenere la cancellazione dei dati personali «senza ingiustificato ritardo». L’art. 5, par. 1, lett. e), impone il principio di limitazione della conservazione: i dati non possono essere mantenuti in forma che consenta l’identificazione dell’interessato oltre il tempo necessario. Applicati ai sistemi AI, questi principi impongono al titolare non solo di eliminare i dati di input, ma di garantire che il modello non conservi effetti tracciabili riconducibili a quella persona. Il Garante per la protezione dei dati personali, nel provvedimento del 30 marzo 2023 su ChatGPT (doc. web n. 9870832), ha già chiarito che i sistemi AI non sono esenti dagli obblighi del GDPR e che il titolare risponde dell’intero ciclo di vita del dato, inclusa la fase di addestramento. In parallelo, l’AI Act (Regolamento UE 2024/1689, in vigore dal 1° agosto 2024) impone ai fornitori di sistemi AI ad alto rischio obblighi di documentazione e governance dei dati di addestramento che si sovrappongono alle tutele GDPR.
Cosa cambia per lo studio
- Nelle due diligence per acquisizioni o partnership che coinvolgono aziende AI, verifica se il target ha implementato procedure di machine unlearning o, in alternativa, se è in grado di ri-addestrare i modelli escludendo i dati oggetto di richiesta di cancellazione: l’assenza di queste procedure è un rischio di compliance quantificabile.
- Nei contratti tra titolare e responsabile del trattamento ex art. 28 GDPR che riguardano servizi AI, inserisci clausole specifiche sull’obbligo del responsabile di supportare tecnicamente le richieste di machine unlearning entro i termini previsti dall’art. 17 (un mese, prorogabile di altri due mesi in casi complessi).
- Quando redigi o aggiorni il Registro dei trattamenti del cliente, documenta esplicitamente i flussi di dati verso sistemi di addestramento AI: è la prima difesa in caso di ispezione del Garante.
- Valuta la configurazione di una valutazione d’impatto (DPIA) ex art. 35 GDPR per i trattamenti che alimentano modelli AI, specie se i dati includono categorie particolari ex art. 9: il machine unlearning deve essere pianificato prima dell’addestramento, non dopo.
- Nelle contestazioni da parte di interessati, considera che l’onere della prova dell’avvenuta cancellazione — inclusa quella «dentro» il modello — grava sul titolare ex art. 5, par. 2 (principio di accountability).
Attenzione a
Il rischio principale è trattare la richiesta di cancellazione come un adempimento puramente informatico da delegare all’IT. In assenza di benchmark tecnici condivisi e certificati, il titolare non ha oggi un metodo univoco per dimostrare al Garante che il machine unlearning è stato effettivamente completato: questo crea una zona grigia probatoria che può trasformarsi in sanzione fino al 4% del fatturato annuo mondiale ex art. 83, par. 5, GDPR.
Secondo rischio: confondere il machine unlearning con la pseudonimizzazione o l’anonimizzazione dei dati di addestramento. Sono tecniche diverse con effetti diversi. Un dato pseudonimizzato nel dataset originale può comunque aver lasciato tracce identificabili nel modello addestrato, e il Garante italiano ha già dimostrato, nel caso ChatGPT, di non accettare equivalenze semplificate tra misure tecniche distinte.
Domande frequenti
Il diritto all’oblio GDPR si applica anche ai modelli di intelligenza artificiale già addestrati?
Sì. L’art. 17 GDPR non distingue tra dati grezzi e dati «appresi» da un modello AI. Il titolare è tenuto a garantire che l’interessato non sia più identificabile o influente nel sistema, anche dopo l’addestramento. Il provvedimento del Garante su ChatGPT del 30 marzo 2023 (doc. web n. 9870832) ha confermato che i sistemi AI rientrano pienamente nell’ambito applicativo del Regolamento.
Cosa rischia un’azienda che non implementa procedure di machine unlearning dopo una richiesta di cancellazione?
Rischia una sanzione amministrativa fino al 4% del fatturato annuo mondiale ex art. 83, par. 5, GDPR per violazione dell’art. 17 (diritto alla cancellazione) e dell’art. 5, par. 1, lett. e) (limitazione della conservazione). L’onere di provare l’avvenuta cancellazione grava sul titolare ex art. 5, par. 2 (accountability), non sull’interessato che ha formulato la richiesta.
Come si tutela contrattualmente un’azienda che affida l’addestramento AI a un fornitore esterno?
Attraverso clausole specifiche nel contratto ex art. 28 GDPR con il responsabile del trattamento, che obblighino il fornitore a supportare le richieste di machine unlearning entro i termini di legge (un mese, prorogabile di due), a documentare le procedure adottate e a notificare tempestivamente l’impossibilità tecnica di procedere. Senza queste clausole, il titolare rimane esposto in via principale verso il Garante.
Fonte di riferimento: AgendaDigitale