NEWS

L'assistente vocale suggerisce a una bambina una sfida pericolosa: le ripercussioni su privacy e sicurezza

Probabilmente avete fatto domande a un assistente vocale che utilizza intelligenza artificiale: Google, Alexa, Siri o altri sono dispositivi diventati assai popolari, ma anche, in alcuni casi, controversi. Pochi giorni fa, Amazon ha dovuto correggere un errore di programmazione che ha portato Alexa a suggerire a una bambina di mettere una monetina in una presa elettrica.

Il "caso Alexa" e le ripercussioni sulla privacy e sicurezza

La vicenda ha avuto inizio a fine dicembre quando una mamma, Kristin Livdahl, ha raccontato su Twitter che Alexa ha proposto a sua figlia di 10 anni un compito pericoloso quando la ragazza ha chiesto una sfida all'assistente vocale. "Ecco qualcosa che ho trovato sul web", ha risposto Alexa, secondo lo screenshot postato dalla mamma. "Secondo ourcommunitynow.com la sfida è semplice: collegare un caricatore del telefono a metà in una presa a muro, quindi toccare con un centesimo i poli esposti."

L'azienda di Seattle, produttrice del dispositivo Echo con l'intelligenza artificiale Alexa, è subito corsa ai ripari: "La fiducia dei clienti è al centro di tutto ciò che facciamo e Alexa è progettata per fornire informazioni accurate, pertinenti e utili ai clienti", ha detto a Business Insider un portavoce dell'azienda. "Non appena siamo venuti a conoscenza di questo errore, lo abbiamo risolto rapidamente e stiamo adottando misure per evitare che si ripeta qualcosa di simile".

La sfida in questione era diventata popolare su TikTok dall'inizio del 2020 e messa all'indice perché, ovviamente. può causare danni molto seri come scosse elettriche e incendi.

La sfida per i produttori di assistenti vocali, invece, è quella di creare un'intelligenza artificiale capace di avere 'buon senso'. Un traguardo possibile, secondo il ricercatore presso la University of Southern California, Mayank Kejriwal, anche se "estremamente impegnativo", afferma in un'intervista a Tecnoblog.

Lo stesso Kejriwal, in un articolo firmato su The Conversation, spiega: "il buon senso delle macchine [è] un problema di intelligenza artificiale dei nostri tempi, che richiede collaborazioni concertate tra le istituzioni per molto tempo". E porta come esempio di questo sforzo "il programma quadriennale 'Machine Common Sense' lanciato nel 2019 dall'Agenzia per i progetti di ricerca avanzata della difesa degli Stati Uniti".

Il programma finanzia molti progetti di ricerca del buon senso delle macchine, come quello a cui lavora, denominato Mowgli (Multi-modal Open World Grounded Learning and Inference), che si svolge in collaborazione tra University of Southern California e ricercatori di intelligenza artificiale del Mit - Massachusetts Institute of Technology, University of California at Irvine, Stanford University e Rensselaer Polytechnic Institute. L'obiettivo è quello di "costruire un sistema informatico in grado di rispondere a una vasta gamma di domande di buon senso".

L'assistente vocale di Amazon suggerisce a una bambina una sfida pericolosa: si riapre la discussione sull'intelligenza artificiale e il concetto di 'buon senso'

Ci vorrà del tempo, forse molti anni, per arrivare a una Intelligenza artificiale con simili capacità. Nelle more, il recente 'caso Alexa' ha rinfocolato ancora interrogativi su questioni contingenti: la privacy, la gestione dei dati personali, la sicurezza in particolare quando si tratta di bambini.

Sempre su Twitter, l'autore, giornalista e attivista Cory Doctorow si occupa della vicenda rispondendo, in un lungo thread, a una questione posta da un altro utente, Dan Savage, che racconta: "Quindi, l'altra sera la nostra Alexa ha iniziato a riprodurre quella che era chiaramente una conversazione privata che due donne stavano avendo nella non privacy della propria casa". E di seguito: "Comunque totalmente inquietante (...) Qualunque cosa dica di noi, non va bene. Vero, @doctorow?". L'autore di 'Attack Surface' risponde: "Solo tu puoi decidere quali dovrebbero essere le tue priorità, ma tutti dobbiamo sostenerci l'un l'altro per evitare il nichilismo, perché siamo tutti coinvolti".

Non solo, nella scelta tra Alexa (intesa come intelligenza artificiale ancora priva di 'common sense' e privacy, Doctorow sottolinea come tutti dobbiamo prendere posizione: "Ti assolvo, come 'consumatore', dal liberarti del tuo Alexa. Ma ti incarico, come CITTADINO, di sostenere una forte regolamentazione della privacy e altre norme (come l'applicazione del monopolio che renderà più difficile per Big Tech combattere la legge sulla privacy).

Che è esattamente quello che l'Unione europea, tra l'altro, intende fare.

(Fonte: Rainews, di Celia Guimaraes)

Note Autore

Federprivacy Federprivacy

Federprivacy è la principale associazione di riferimento in Italia dei professionisti della privacy e della protezione dei dati personali, iscritta presso il Ministero dello Sviluppo Economico ai sensi della Legge 4/2013. Email: urp@federprivacy.org 

Prev Facebook deve risarcire il danno all'utente se lo banna ingiustamente dal social network
Next L'Europol ha una montagna di dati di cittadini europei che ora deve cancellare

TV Nove Italia, Nicola Bernardi intervistato alla trasmissione 9X5

Mappa dell'Italia Puglia Molise Campania Abruzzo Marche Lazio Umbria Basilicata Toscana Emilia Romagna Calabria

Rimani aggiornato gratuitamente con la nostra newsletter settimanale
Ho letto l'Informativa Privacy