L’AI Act (Reg. UE 2024/1689) vieta espressamente i sistemi di valutazione sociale e la maggior parte delle applicazioni di polizia predittiva individuale, qualificandoli come pratiche IA inaccettabili ai sensi dell’art. 5. Gli studi legali che assistono aziende tecnologiche, forze dell’ordine o pubbliche amministrazioni nell’adozione di sistemi IA devono verificare subito la conformità di quei sistemi a tale divieto assoluto, pena sanzioni fino a 35 milioni di euro o il 7% del fatturato globale. Il confronto con il modello cinese di sorveglianza predittiva non è accademico: serve a capire dove il legislatore europeo ha tracciato il confine e perché alcune soluzioni già commercializzate rischiano di ricadere nel perimetro vietato.
Punti chiave
- L’art. 5 AI Act vieta i sistemi di scoring sociale e la polizia predittiva individuale senza eccezioni.
- Le sanzioni per pratiche IA inaccettabili arrivano fino a 35 milioni di euro o il 7% del fatturato globale.
- La Direttiva Law Enforcement (2016/680) limita già oggi il trattamento di dati predittivi dalle forze dell’ordine.
Se assisti un cliente pubblico o privato che sta valutando l’adozione di strumenti di analisi predittiva del rischio criminale, la prima domanda da porre non è tecnica: è se quel sistema ricade tra le pratiche vietate in assoluto dall’art. 5 del Regolamento UE 2024/1689 (AI Act). Il confine non è sfumato: il legislatore europeo ha scelto di vietare — senza bilanciamento di interessi — interi casi d’uso, e alcune soluzioni già sul mercato ci rientrano.
Lo spunto arriva dall’accelerazione cinese sulla sorveglianza predittiva basata su IA generativa, modelli multimodali e piattaforme integrate di comando, analizzata da Agenda Digitale. Il confronto con il quadro europeo — AI Act, GDPR e Direttiva Law Enforcement — mostra due architetture normative opposte sul rapporto tra sicurezza pubblica e diritti fondamentali.
Il contesto normativo
L’art. 5, par. 1, lett. d) dell’AI Act vieta i sistemi di IA che valutano o classificano persone fisiche sulla base del comportamento sociale o di caratteristiche personali per determinare un trattamento sfavorevole in contesti non correlati (c.d. social scoring). L’art. 5, par. 1, lett. e) vieta le valutazioni del rischio individuale di commissione di reati basate esclusivamente su profilazione o su caratteristiche della personalità. Si tratta di divieti assoluti, non derogabili nemmeno per ragioni di sicurezza nazionale, con piena efficacia dal 2 febbraio 2025.
Parallelamente, la Direttiva 2016/680 (Law Enforcement Directive), recepita in Italia con D.Lgs. 51/2018, già oggi impone alle autorità di polizia limiti stringenti sul trattamento automatizzato di dati personali a fini investigativi, inclusa la profilazione predittiva. L’art. 11 della Direttiva richiede che le decisioni individuali automatizzate siano accompagnate da garanzie specifiche e dal diritto all’intervento umano. Il GDPR (Reg. UE 2016/679), all’art. 22, vieta le decisioni basate esclusivamente su trattamento automatizzato che producano effetti giuridici significativi, salvo eccezioni tassative.
Cosa cambia per lo studio
- Verifica immediata dei contratti di fornitura tecnologica che i tuoi clienti pubblici o privati hanno stipulato per sistemi di analisi predittiva: se il sistema profila individui per prevederne comportamenti devianti, è probabilmente vietato dall’art. 5 AI Act e va dismesso entro il 2 febbraio 2025.
- Nei contratti di procurement pubblico relativi a sistemi IA per la sicurezza, inserisci clausole di conformità esplicita all’AI Act e alla Direttiva 2016/680, con obbligo di aggiornamento e diritto di recesso per sopravvenuta illiceità.
- Per i clienti che sviluppano o distribuiscono soluzioni IA destinate a forze dell’ordine europee, la due diligence deve mappare i casi d’uso contro la lista nera dell’art. 5 AI Act prima di qualsiasi go-to-market.
- Il rischio reputazionale per studi che assistono aziende con esposizione su mercati extra-UE (compreso quello cinese) aumenta: un sistema lecito in Cina può essere illecito in Europa, e viceversa, con implicazioni su trasferimenti di tecnologia e joint venture.
- Le sanzioni per violazione dell’art. 5 AI Act sono le più alte del regolamento: fino a 35 milioni di euro o il 7% del fatturato mondiale annuo — soglia superiore a quella prevista per le violazioni più gravi del GDPR.
Attenzione a
Il rischio principale è confondere i sistemi di polizia predittiva territoriale (analisi di zone geografiche ad alto rischio, non vietata in assoluto dall’AI Act ma classificata ad alto rischio ex Allegato III) con la profilazione individuale, che invece ricade nel divieto assoluto dell’art. 5. La distinzione non è sempre netta nei capitolati tecnici: pretendi documentazione funzionale dettagliata prima di esprimere qualsiasi parere di conformità.
Secondo rischio: dare per scontato che i sistemi già in uso presso enti pubblici italiani siano stati validati. La compliance all’AI Act è un obbligo nuovo, e molte amministrazioni non hanno ancora avviato la mappatura dei propri sistemi IA. Se assisti un ente pubblico, verifica se ha già istituito il registro dei sistemi IA ad alto rischio previsto dall’art. 49 AI Act.
Domande frequenti
Quali sistemi di IA sono vietati in assoluto dall’AI Act per la polizia?
L’art. 5, par. 1, lett. e) AI Act vieta i sistemi che valutano il rischio individuale di commissione di reati basandosi esclusivamente su profilazione o caratteristiche della personalità, senza elementi fattuali oggettivi. Sono invece consentiti, con forti limitazioni, i sistemi di analisi territoriale del rischio classificati ad alto rischio nell’Allegato III. Il divieto assoluto è in vigore dal 2 febbraio 2025.
Un comune italiano può usare software predittivo per prevenire reati senza violare l’AI Act?
Dipende dalla funzione specifica del software. L’analisi aggregata di zone geografiche a rischio non è vietata in assoluto, ma rientra nell’Allegato III come sistema ad alto rischio, con obblighi di valutazione della conformità, registrazione e supervisione umana. La profilazione individuale automatizzata per prevedere comportamenti criminali è invece vietata dall’art. 5 AI Act senza eccezioni, anche per enti pubblici.
Quali sanzioni rischia un’azienda che vende sistemi di polizia predittiva vietati dall’AI Act in Europa?
Le violazioni dell’art. 5 AI Act — pratiche IA inaccettabili — comportano sanzioni fino a 35 milioni di euro o il 7% del fatturato mondiale annuo dell’esercizio precedente, se superiore. È la categoria sanzionatoria più elevata del regolamento, superiore alla soglia massima GDPR del 4%. Le autorità di vigilanza nazionali designate ai sensi dell’art. 70 AI Act sono competenti all’irrogazione.
Fonte di riferimento: AgendaDigitale