Attenzione alle app per la salute mentale che promettono privacy ma condividono le conversazioni private con social e piattaforme di intelligenza artificiale
Quattro app per la salute mentale mostrano promesse quasi identiche sulle loro schermate di accesso: Wysa promette che le identità degli utenti rimarranno "private", mentre Youper afferma che le conversazioni sono "private e sicure", invece Happify afferma che le risposte rimarranno "completamente confidenziali", e Aura promette che tutto ciò che è condiviso sulla piattaforma rimarrà "privato e non sarà condiviso".
Quel messaggio, che appare prima ancora che inizi la prima conversazione, è effettivamente l'unica cosa che la maggior parte degli utenti legge prima di iniziare a digitare, dato che la stragrande maggioranza approva automaticamente le informative sulla privacy senza leggerle.
Dietro le quinte, tuttavia, il codice che alimenta quelle quattro app fa qualcosa di completamente diverso: indirizza i dati sensibili degli utenti a tracker di terze parti – aziende come Facebook, AppsFlyer, Amplitude e Mixpanel, nessuna delle quali è menzionata nelle privacy policy.
Il contratto non firmato - Le persone stipulano un contratto non firmato ogni volta che rivelano qualcosa di doloroso a chi le ascolta. Quel contratto poggia su una delle più elementari aspettative umane: una parte rivela, l’altra protegge.
Diverse professioni hanno costruito specifici sistemi intorno ad esso – il giuramento di Ippocrate per i medici, il privilegio di avvocato-cliente per gli avvocati, il segreto confessionale per i sacerdoti e i codici etici per gli psicologi – ma tutti questi sistemi sono solo la forma esterna di un altro, contratto interno che li precede di decine di migliaia di anni e opera nella coscienza umana prima ancora che una persona abbia aperto la bocca.
Quel contratto si sviluppa su tre livelli separati, e le app per la salute mentale si intersecano con tutti e tre contemporaneamente.
Il primo livello è linguistico: certe parole innescano automaticamente meccanismi di fiducia nella mente, senza lasciare spazio per esaminare se la persona che fa la promessa è effettivamente in grado di mantenerla. "Privato", "confidenziale", "protetto" - queste parole funzionano come segnali che innescano la fiducia quasi istantanea.
Il secondo livello è comportamentale: la struttura stessa della divulgazione, in cui una parte condivide e un'altra ascolta, crea un'aspettativa automatica di reciprocità. Quando una persona affida a qualcun altro un pesante fardello emotivo, l’obbligo di proteggerlo ricade quasi intuitivamente su chi lo riceve, se non altro a causa della simmetria comportamentale incorporata nello scambio.
Il terzo livello è categorico: nel momento in cui qualcosa viene definito come una "app di terapia", ci proiettiamo su di esso l'intero modello di fiducia che già associamo alla psicoterapia umana - riservatezza professionale, regolazione, codici etici e responsabilità professionale. La categoria stessa è sufficiente per aprire la porta.
Un nuovo studio pubblicato su arXiv misura questo divario sistematicamente per la prima volta. I ricercatori dell'Università della California ed altri esperti hanno analizzato 25 delle app Android più popolari per la salute mentale e il supporto emotivo. La loro scoperta è stata che ogni singola app incorpora almeno un tracker di terze parti che non è stato reso noto nella propria informativa sulla privacy. I ricercatori hanno anche scoperto che nel 68% dei casi, almeno la metà dei tracker contenuti nel codice sorgente delle app non sono stati affatto resi noti agli utenti.
Il caso più estremo è Talkie, che ha più di 10 milioni di installazioni. L'app ha incorporato 20 diversi tracker di terze parti, tra cui reti pubblicitarie come Vungle, AppLovin, TikTok/Pangle, Moloco e Mintegral - senza nominarne neanche solo uno nella sua informativa sulla privacy.
Rosebud, un’app di journaling emozionale assistita dall’IA, afferma nella sua sulla privacy policy che le conversazioni acquisite vengono inviate simultaneamente a tre piattaforme di intelligenza artificiale: OpenAI, Anthropic e Groq. In pratica, un utente che digita pensieri sulla depressione o sui suoi traumi condivide contemporaneamente con altre tre entità separate le proprie confidenze, con tutte le implicazioni che comporta la sicurezza dei dati e la possibilità di riuscire a cancellare successivamente le informazioni.
Tale flusso di dati non si ferma all'interno dell'app stessa. Uno studio pubblicato su Communications of the ACM nel 2021 ha rilevato che Facebook già classifica il 67% dei suoi utenti in 197 paesi in categorie di "interesse sensibile" - etichette che, ai sensi del GDPR, non possono essere legalmente elaborate senza esplicito consenso, comprese le categorie di dati relativi alla salute.
Uno studio del 2018 precedente ha rilevato che il 73% degli utenti nella sola Unione Europea era già stato classificato in questo modo. La Spagna aveva poi multato Facebook 1,2 milioni di euro per la raccolta e l'elaborazione di dati personali sensibili per scopi pubblicitari. In altre parole, l'ecosistema pubblicitario in cui le app per la salute mentale canalizzano i dati ha già completato gran parte del processo di inferenza prima che l'utente digiti una singola parola.
Il paradosso della consapevolezza - La maggior parte degli utenti capisce, almeno in modo astratto, che le app gratuite sopravvivono sulla pubblicità e che la pubblicità sopravvive sui dati. Eppure un divario rimane quando si tratta del contratto interno. Nel momento in cui la parola "privato" appare sullo schermo, o quando gli utenti iniziano a condividere storie emotivamente cariche, il meccanismo di fiducia automatico prende il sopravvento sul processo decisionale.
Il motivo è semplice. Il contratto non firmato si è evoluto molto tempo fa ed è radicato nelle relazioni interpersonali. Gli esseri umani lo sviluppavano in ambienti in cui ogni ascoltatore era un altro essere umano – qualcuno con un volto, qualcuno identificabile, qualcuno i cui occhi potevano essere esaminati prima di parlare. Nell'ambiente evolutivo in cui è emerso questo contratto, la domanda "Chi sta davvero ascoltando?" esisteva a malapena, perché l'ascoltatore era la persona in piedi di fronte alla persona.
Nel 2020, gli hacker avevano violato il database dei registri del fornitore di servizi di psicoterapia Vastaamo, esponendo i file di 33.000 pazienti, chiedendo poi il pagamento di un riscatto. La società aveva rifiutato, e i materiali erano stati pubblicati. Secondo quanto riferito, alcuni pazienti erano poi morti per suicidio in seguito alla fuga di notizie.
Vastaamo non era un'app. Era un fornitore di salute mentale convenzionale, con terapisti autorizzati, regolamentazione e accordi firmati da tutte le parti. Eppure i materiali sono stati divulgati. Il caso Vastaamo ha dimostrato cosa succede quando il contratto – anche uno firmato – viene meno. E la maggior parte delle app neanche si assume tali impegni.
L'anno scorso, nell'aprile 2025, l'autorità italiana per la protezione dei dati ha multato la società dietro Replika, un'app di chatbot AI, per 5 milioni di euro per violazioni del GDPR e un'inadeguata applicazione della verifica dell'età.
Nel 2023, negli Stati Uniti la Federal Trade Commission ha imposto una multa di 7,8 milioni di dollari alla piattaforma di terapia online BetterHelp dopo aver scoperto che il servizio aveva condiviso dati sensibili sulla salute mentale con Facebook, Snapchat e Pinterest nonostante promettessero agli utenti che le loro informazioni sarebbero rimaste riservate.
Un ricercatore della Duke University ha pubblicato un rapporto nel 2023 su 11 broker di dati che vendono elenchi di persone classificate da condizioni di salute mentale – depressione, ansia, disturbo bipolare e PTSD – per un minimo di 20 centesimi per ciascun record contenente nomi completi, indirizzi e informazioni finanziarie.
Negli Stati Uniti, la maggior parte delle app per la salute mentale non sono coperte framework HIPAA (Health Insurance Portability and Accountability Act), il che significa che non esiste una struttura normativa federale che impedisca il flusso di dati sanitari raccolti dai loro tracker nello stesso mercato dei broker di dati. Le conversazioni riservate e confidenziali, una volta inviate, appartengono agli sviluppatori del prodotto come dati. In alcuni casi diventano il prodotto stesso.
L'interpretazione moderata - Non tutti i divari tra promessa e realtà hanno origine in un intento dannoso. La maggior parte degli sviluppatori di app non ha volotariamente intenzione di escogitare modi per ingannare gli utenti.
Più spesso, il divario deriva dalle strutture del settore: kit di sviluppo software standard che incorporano strumenti di monitoraggio senza audit sulla privacy prima del lancio; politiche sulla privacy copiate da modelli e lasciate non aggiornate come il codice cambia; priorità organizzative che indirizzano i budget verso nuove funzionalità piuttosto che destinarli ad attività di compliance.
Queste spiegazioni sistemiche non cancellano le responsabilità, ma alterano la strategia necessaria per affrontare il problema. Il problema si estende oltre l'applicazione delle normative da solo e richiede un più ampio spostamento professionale e culturale verso l'audit sulla privacy nelle app che funzionano come interfacce terapeutiche.
John Torous, direttore della psichiatria digitale presso il Beth Israel Deaconess Medical Center e la Harvard Medical School, ha riassunto la posizione prevalente tra i leader nel campo in un'ampia revisione del 2025 pubblicata su World Psychiatry: gli strumenti digitali possono portare benefici alla cura della salute mentale purché espandano il trattamento umano piuttosto che tentare di sostituirlo.
Un’app può quindi essere in grado di sostenere parte del contratto – può ascoltare, rispondere e persino adattarsi al tono emotivo della persona che ha di fronte. Ma non può sostenere il resto: memoria, contesto, responsabilità e, soprattutto, presenza fisica. Il contratto non firmato non richiede mai una persona, ma richiede un ascoltatore. La differenza tra i due appare trascurabile, ma non lo è.
Fonte: Haaretz – di Adi Frenkenberg, dottoranda presso la Reichman University
