La discriminazione algoritmica di genere è un rischio legale concreto che può coinvolgere gli studi nella duplice veste di consulenti e di gestori di software alimentati da AI. Il Regolamento UE 2024/1689 (AI Act) classifica come ad alto rischio i sistemi automatizzati usati in selezione del personale, accesso al credito e servizi essenziali, con obblighi di conformità stringenti già dal 2025. Un avvocato che assiste aziende nell’adozione di strumenti digitali deve oggi valutare anche il profilo discriminatorio degli algoritmi impiegati, non solo quello privacy.
Punti chiave
- Punto 1 — L’AI Act (Reg. UE 2024/1689) impone obblighi di conformità per sistemi ad alto rischio già operativi dal 2 agosto 2025.
- Punto 2 — Il GDPR vieta decisioni automatizzate con effetti significativi sulla persona senza garanzie esplicite (art. 22 Reg. UE 2016/679).
- Punto 3 — Un algoritmo distorto su base genere può integrare discriminazione indiretta sanzionabile ai sensi del d.lgs. 198/2006.
Chi assiste imprese nell’adozione di strumenti digitali — software HR, sistemi di scoring creditizio, piattaforme di profilazione — si trova oggi esposto a un fronte di responsabilità che va ben oltre la compliance privacy. Gli algoritmi addestrati su dati storicamente sbilanciati producono output discriminatori misurabili, e la normativa europea offre già strumenti per contestarli.
Il volume Donne, dati e algoritmi, segnalato da GiuriCivile.it e disponibile su Shop Maggioli e Amazon, affronta in modo strutturato i rischi di discriminazione di genere nell’ecosistema tecnologico, con un taglio utile anche per chi opera in contenzioso o consulenza aziendale.
Il contesto normativo
Il quadro normativo si regge su tre pilastri. Il primo è l’art. 22 del Reg. UE 2016/679 (GDPR), che riconosce il diritto di non essere sottoposti a decisioni basate esclusivamente su trattamento automatizzato con effetti giuridici o significativamente incidenti sulla persona. Il secondo è il Reg. UE 2024/1689 (AI Act), in vigore dal 1° agosto 2024, che classifica come sistemi ad alto rischio quelli usati in recruiting, accesso al credito, istruzione e servizi pubblici essenziali: per questi scattano obblighi di trasparenza, registrazione e valutazione di conformità con scadenze operative dal 2 agosto 2025. Il terzo pilastro è il d.lgs. 198/2006 (Codice delle pari opportunità), che all’art. 25 definisce la discriminazione indiretta come qualsiasi disposizione, criterio, prassi o atto che ponga persone di un sesso in posizione di svantaggio — definizione che si applica pienamente agli output algoritmici distorti.
Cosa cambia per lo studio
- Diligenza nella consulenza contrattuale. Chi redige o rivede contratti di fornitura di software HR o sistemi di scoring deve inserire clausole che obblighino il fornitore a documentare il processo di addestramento del modello e l’assenza di bias statistici per variabile di genere.
- Due diligence pre-acquisizione. Nelle operazioni di M&A che coinvolgono target con sistemi AI classificabili ad alto rischio, il perimetro di analisi legale si estende ora alla conformità AI Act: mancata registrazione nel database EU o assenza di valutazione di conformità è un rischio patrimoniale quantificabile.
- Contenzioso antidiscriminatorio. L’avvocato che assiste dipendenti o candidate in procedimenti di selezione automatizzata può fondare la domanda sia sull’art. 25 d.lgs. 198/2006, sia sull’art. 22 GDPR, chiedendo accesso agli output del sistema e inversione dell’onere della prova ex art. 40 d.lgs. 198/2006.
- Responsabilità dello studio come titolare. Se lo studio usa strumenti AI per analisi documentale, profilazione clienti o selezione di personale, è titolare del trattamento e risponde direttamente di eventuali bias discriminatori nei confronti dei soggetti interessati.
- Aggiornamento dei modelli di informativa. Le informative privacy vanno aggiornate per indicare esplicitamente l’uso di sistemi automatizzati, la logica del trattamento e le conseguenze previste, come richiede l’art. 13, par. 2, lett. f) GDPR.
Attenzione a
Non confondere trasparenza algoritmica con sicurezza da responsabilità. Rendere noto l’uso di un algoritmo non esonera il titolare se l’output è discriminatorio: la Corte di Giustizia UE ha chiarito (causa C-634/21, SCHUFA) che la profilazione automatizzata può configurare una decisione vietata anche quando inserita in un processo ibrido uomo-macchina, se il peso della componente automatizzata è determinante.
Attenzione ai sistemi acquistati come SaaS. Il fatto che l’algoritmo sia gestito dal fornitore non sposta la responsabilità: il titolare del trattamento risponde verso l’interessato e può rivalersi sul responsabile ex art. 82 GDPR, ma il contenzioso con il soggetto leso ricade comunque sullo studio o sull’azienda cliente che ha scelto quello strumento.
Domande frequenti
Come si prova la discriminazione algoritmica di genere in giudizio?
Si può agire ex art. 40 d.lgs. 198/2006, che prevede l’inversione dell’onere della prova: il ricorrente deve fornire elementi di fatto idonei a presumere la discriminazione, dopodiché spetta al convenuto dimostrare l’assenza di violazione. In parallelo, si può richiedere accesso ai dati di output del sistema ai sensi dell’art. 15 GDPR e, se negato, ricorrere al Garante Privacy.
Un algoritmo HR acquistato come SaaS rientra nell’AI Act come sistema ad alto rischio?
Sì, se utilizzato per selezione, promozione o assegnazione di compiti lavorativi. L’Allegato III del Reg. UE 2024/1689 include espressamente i sistemi AI usati in ambito occupazionale tra quelli ad alto rischio. L’azienda che lo adotta è considerata ‘deployer’ e assume obblighi specifici di monitoraggio e documentazione dal 2 agosto 2025.
L’art. 22 GDPR si applica anche se la decisione finale la prende un essere umano?
Dipende dal peso effettivo del sistema automatizzato nella decisione. La CGUE nella causa C-634/21 (SCHUFA, 7 dicembre 2023) ha stabilito che se l’output algoritmicoè determinante nella scelta umana successiva, la tutela dell’art. 22 GDPR si applica comunque, indipendentemente dalla presenza formale di un soggetto umano nel processo.
Fonte di riferimento: Giuricivile