Truffe emotive e chatbot seduttivi: l’IA e l’illusione (quasi) perfetta
L’Intelligenza Artificiale ha elevato la sofisticazione delle truffe affettive: deepfake automaticamente generati, chatbot empatici e voice cloning permettono di montare romance scam e persino inganni spirituali con incredibile realismo. Il rischio non è più soltanto un teorico, ma una realtà che può avere esiti drammatici.
(Nella foto: Tania Orrù, DPO, Privacy Officer e Consulente Privacy certificato Tuv Italia)
Ne è testimonianza il caso recentissimo documentato da Reuters, in cui un anziano, affetto da deficit cognitivi, è stato indotto a lasciare la propria abitazione per incontrare quella che credeva essere una persona reale conosciuta tramite Messenger. In realtà, si trattava di “Big sis Billie”, una chatbot IA sviluppata da Meta, con toni affettivi e seduttivi, che lo ha convinto della sua autenticità fino al punto di invitarlo a un incontro di persona, con tanto di indirizzo al quale recarsi. L’uomo è tragicamente deceduto durante il tragitto.
Alcuni casi emblematici: deepfake romance scam, sextortion e “santoni” IA - A gennaio 2025, una settantasettenne, ex docente universitaria di Edinburgo, ha scoperto di essere stata truffata per 17.000 sterline convinta, mediante video e conversazioni deepfake su Facebook, di aver intrapreso una relazione online con una donna che in realtà era una romance scammer generata dall’IA. La storia è emersa sui media britannici come monito sull’evoluzione delle truffe affettive.
A febbraio 2025, una donna francese di 53 anni, ha scoperto di essere stata vittima di una truffa credendo di aver intrapreso una relazione con Brad Pitt, tramite messaggi e immagini generate in realtà dall’IA, versando ai truffatori circa 830.000 euro.
In Italia, una recente operazione coordinata dalla Procura di Trapani ha portato a tre arresti in una rete criminale che induceva vittime in finti rapporti d’amore via social, combinando romance scam e sextortion. Le somme estorte venivano infatti riciclate tramite criptovalute e piattaforme finanziarie “opache”. Sempre in Italia, un uomo si è tolto la vita dopo essere stato ingannato da un falso profilo social che si spacciava per la popstar Dua Lipa ed aver versato migliaia di euro in criptovalute con la promessa di una relazione sentimentale.
Oltre all’evoluzione del romance scam, irrompe anche la figura della “santona IA”, capace di millantare guarigioni tramite la manipolazione del DNA umano per curare gravi malattie come il cancro tramite un’IA chiamata “Marie”. Alcune vittime, dopo aver sospeso terapie salvavita su indicazione di Marie, sono decedute. Il giro di affari accertato superava i 100.000 euro in donazioni.
Le piattaforme digitali - Nonostante il quadro normativo che regola la materia, pochi sistemi rispettano davvero i requisiti, e il concetto di "deepfake" resta di fatto ancora ambiguo.
Resta la necessità di introdurre meccanismi preventivi solidi e auditabili per le piattaforme digitali (social, dating, marketplace), che restano spesso incapaci di prevenire truffe IA based, perché non verificano l’identità in modo sistematico, implementano in modo limitato i sistemi di rilevamento deepfake/chatbot ingannevoli e limitano i controlli “umani”, e reagiscono con ritardo alle segnalazioni (ad es. lasciando attivi profili falsi).
Dopo l’episodio relativo a Big sis Billie, Meta ha dichiarato di aver rimosso dalle proprie linee guida interne per lo sviluppo delle chatbot generative (“GenAI: Content Risk Standards”) ogni esplicito esempio di interazioni seduttive o romantiche da parte delle chatbot, anche verso soggetti vulnerabili o minori definendole incoerenti con le proprie politiche. Peccato che, prima di quel momento, ciò era consentito ed utilizzato e la rimozione è arrivata solo in seguito alla sollecitazione investigativa dei media.
Dal canto suo, il Garante Privacy italiano, nella Relazione 2024, ha chiesto l’adozione di sistemi di autenticazione avanzati, controlli automatizzati su identità digitali e la presenza di moderazione umana.
L'IA rende i truffatori più credibili, ma non invincibili - L’IA ha un impatto diretto sulla credibilità del truffatore, in quanto i deepfake vocali e visivi aumentano la persuasività fino ad annullare il sospetto delle vittime. I chatbot generativi emotivi creano legami relazionali artificiali difficili da smascherare e sono in grado di abbassare le difese delle vittime.
Il giudizio umano resta il più efficace nel riconoscere i contenuti fasulli. In questo senso, alcune misure e verifiche, alla portata di tutti, possono aiutare a smascherare queste sofisticate trappole, come ad esempio:
- esigere una videochiamata in tempo reale, in quanto i video deepfake preregistrati (per il momento!) crollano di fronte all’interazione autentica;
- eseguire verifiche con reverse image e ricerca profili, verificando le incongruenze nei profili sospetti;
- fare segnalazioni tempestive alla Polizia Postale, al Garante Privacy o presso sportelli o centri del proprio territorio che forniscono assistenza legale e psicologica.
Le truffe emotive potenziate con l’IA evidenziano con chiarezza la necessità di rafforzare l’applicazione del GDPR, DSA e AI Act, richiedere maggiori responsabilità alle piattaforme, e, nondimeno, promuovere una cittadinanza digitale informata e resiliente.
Difendere le relazioni digitali significa infatti tutelare la privacy e i propri diritti, incluso il diritto all’autenticità.
