Intelligenza artificiale: il lato oscuro degli algoritmi predittivi e quel femminicidio che si sarebbe potuto evitare
Una giovane donna spagnola a gennaio di quest’anno si è recata alla locale stazione di polizia di Malaga per chiedere aiuto dai comportamenti aggressivi del suo ex compagno. Fin qui, una delle tante note e tristi storie delle cronache giudiziaria, ma il caso di Lina (questo il nome della donna) viene affidato a VioGén - un algoritmo di intelligenza artificiale che all’esito di 35 domande tra cui l'accesso dell'aggressore alle armi, la sua salute mentale, ecc. cataloga il rischio per l’incolumità fisica della donna come “rischio medio”.
(Nella foto: l'Avv.Marco Soffientini, speaker al Privacy day Forum 2025)
Una giovane donna spagnola a gennaio di quest’anno si è recata alla locale stazione di polizia di Malaga per chiedere aiuto dai comportamenti aggressivi del suo ex compagno. Fin qui, una delle tante note e tristi storie delle cronache giudiziaria, ma il caso di Lina (questo il nome della donna) viene affidato a VioGén - un algoritmo di intelligenza artificiale che all’esito di 35 domande tra cui l'accesso dell'aggressore alle armi, la sua salute mentale, ecc. cataloga il rischio per l’incolumità fisica della donna come “rischio medio”.
Lina ha chiesto una misura restrittiva o di allontanamento nei confronti del suo ex partner, ma la richiesta le fu respinta.
Tre settimane dopo, era morta. Il suo ex-compagno si introdusse nel suo appartamento e lo diede alle fiamme. Il corpo senza vita di Lina è stato recuperato all’interno della sua casa completamente carbonizzato e il suo ex partner, il padre dei suoi tre figli più piccoli, arrestato per l'atroce femminicidio.
Una dolorosa storia che ha aperto in Spagna un forte dibattito su VioGén e sulla sua capacità di proteggere le donne vittime di aggressione.
VioGén dispone di cinque livelli di rischio "trascurabile", "basso", "medio", "alto" ed "estremo".
Il protocollo associato al “rischio medio” prevede l’assistenza di un poliziotto nominato entro 30 giorni. In caso di rischio alto la tempistica si riduce ad una settimana. In quest’ultimo caso Lina si sarebbe potuta salvare.
Strumenti per valutare la minaccia di violenza tra le mura domestiche sono utilizzati in Nord America e in tutta Europa. Nel Regno Unito, alcune forze di polizia usano DARA (Domestic Abuse Risk Assessment) - sostanzialmente una lista di controllo e DASH (Domestic Abuse, Stalking, Harassment and Honor-based Violence Assessment) per valutare il rischio di una nuova aggressione.
Ma nel caso spagnolo c'è un algoritmo di intelligenza artificiale predittiva.
L’articolo 5 del Regolamento (UE) 1689/2024 (c.d. AI Act) divenuto efficace lo scorso 2 febbraio, vieta sistemi di AI che valutano il rischio che una persona commetta un crimine basandosi esclusivamente su caratteristiche personali (es. comportamenti, status socioeconomico, ecc.) in quanto possono generare pregiudizi, discriminazione e ingiustizie. Il Regolamento ammette, invece, sistemi di intelligenza artificiale a sostegno della valutazione umana del coinvolgimento di una persona in un’attività criminosa, che si basa già su fatti oggettivi e verificabili direttamente connessi a un’attività criminosa.
VioGén e in generale gli algoritmi di intelligenza artificiale ci devono far riflettere sull’enorme differenza tra la conoscenza della macchina e la conoscenza dell’uomo. Il cogito ergo sum di Cartesio: Io so di esistere perché sono cosciente di sapere ciò che affermo di sapere, cioè che esisto, è diverso dal sapere di una macchina che “sa” senza sapere di sapere e senza nemmeno sapere che cosa significhi sapere. È la coscienza che capisce la situazione e che fa la differenza tra la macchina e l’essere umano. (F. Faggin – Irriducibile, cit. pag.54).
La conoscenza di VioGén è una conoscenza fatta di informazioni oggettive, mentre la conoscenza umana è un’esperienza soggettiva che si sviluppa nell’intimità dell’essere umano.
Probabilmente se il caso di Lina fosse stato esaminato da un uomo, le emozioni, i sentimenti, e le sensazioni che nessuna macchina possiede avrebbero potuto salvare questa giovane mamma.
