NEWS

Smart assistant: testimoni di un crimine

Il 25 Maggio del 2018 è entrato in vigore il GDPR in materia di protezione delle persone fisiche con riguardo al trattamento dei dati personali. Il legislatore ha voluto ben evidenziare l‘esigenza, più che necessaria, di far fronte ai continui e potenziali rischi derivanti dall’uso non responsabile di tecnologie che oggi invadono l’ambiente reale, oltre che digitale.


Si faccia riferimento al “Internet of Things”, massima espressione delle “cose” connesse alla rete che permettono le interazioni tra più utenti, con relativo scambio di informazioni. In maniera quasi inconsapevole l’utente viene violato, basti pensare alla profilazione e al trattamento illecito di dati. Questi sono tutti aspetti negativi, appartenenti alla stessa medaglia che le più grandi aziende presentano per invogliare l’acquisto di dispositivi Smart, dotati di Intelligenza Artificiale.

Si sta sempre di più espandendo l’allarme di un “crimine”, che si commette o che si subisce, quale proprio la violazione di Privacy e Security e siccome queste sono la più grande vittoria dell’umanità, bisognerebbe tutelarle da violazioni o qualsivoglia azione illecita.

La tecnologia del riconoscimento vocale ha radici antiche ma i successi non sono stati sin da subito evidenti a causa di limiti legati alla pronuncia, al linguaggio, ai tempi di apprendimento che hanno reso le macchine del tempo poco efficienti. Oggi, invece, possiamo affermare, grazie ad un vasta digitalizzazione, al lavoro del cloud computing e alla maggiore velocità delle macchine, che alcuni limiti allo sviluppo della tecnologia sono stati superati. Ma nonostante questi progressi, i dispositivi, più propriamente gli Smart Assistant, sono ancora in fase di evoluzione.

Quindi si è passati da macchine anacronistiche ad apparecchi intelligenti che hanno migliorato la vita quotidiana degli utenti che se ne servono. Quindi noto è che la vera evoluzione è stata evidenziata e rappresentata dallo sviluppo dei dispositivi di Intelligenza Artificiale. Qui il caso di Amazon Alexa.


L’intelligenza artificiale è un insieme di algoritmi in grado di fornire alla macchina la capacità di riconoscere, elaborare e comprendere un comando vocale proveniente dall’utente e fornendo a quest’ultimo delle risposte in relazione alle esigenze. Ma come può una macchina compiere questo lavoro? È semplice. L’intelligenza artificiale può essere definita in altri termini come il prodotto delle funzioni di apprendimento automatico (Machine Learning) e le funzioni di emulazione della mente umana nel processo di problem solving e di corrispondenza richiesta - risposta (Deep Learning).

Un’ emulazione che però non può dirsi totale, in quanto quello che ci rende diversi dalle macchine, è proprio la nostra flessibilità nelle associazioni nomi - cose e nella comprensione di qualsiasi tipo di linguaggio, anche nelle sue variazioni dialettali. Stessa cosa non possiamo dirla per gli Smart Assistant ancora poco sensibili ai mutamenti dialettali, e ancora molto lontani dalla piena tutela della nostra privacy.

Per quanto giovane la normativa del Regolamento Europeo, appare dinanzi a questi dispositivi lacunosa, nonostante la sensibilità alle nuove problematiche personali per i dati, ma anche sociali per l’impatto che proprio la violazione può comportare. Ecco perché vi è stato chi ha cercato di formare l’utente sulla scelta di un dispositivo che deve avere le caratteristiche di sicurezza, in primis della rete e poi successivamente per i collegamenti di altri dispositivi. Questo accade perché secondo il modello Zero Trust Network di Kindervarg ogni dispositivo è considerato “non fidato”, compreso il servizio di rete.

Per le situazioni critiche presentate, bisogna effettuare un controllo di qualsiasi dispositivo che si connette prima di consentirgli effettivamente l’accesso, cui segue un’attenta analisi e registrazione di dati, garantendo così una protezione completa di dati e risorse.

Questa criticità è stata evidenziata anche dalla famosa scena della serie “Mr. Robot”, nella quale viene hackerata la casa completamente tecnologica dell’avvocato Susan Jacobs. Per quanto enfatizzata come scena, rappresenta uno dei tanti rischi che si potrebbero verificare in futuro con il continuo sviluppo di tali tecnologie. Questa visione futuristica va a sostituirsi completamente alle antiche tecniche di effrazione e di violazione di domicilio.

I ladri di domani potranno semplicemente accedere a dei computer che gestiscono i comandi della casa e violeranno la nostra Privacy e Security. Sicuramente quello che riuscirebbe a tenere lontani i rischi è un’efficiente configurazione, infatti basterebbe separare i dispositivi smart della casa dal resto, in quanto un attacco al singolo dispositivo, se la rete non è segmentata, può causare una violazione di tutto ciò che è a essa collegata.

Questo per dire che una giusta regolamentazione non sempre è sufficiente, se non accompagnata anche da un uso più responsabile della rete. Bisogna quindi saper utilizzare la rete, bisogna saper sviluppare al meglio gli aspetti vantaggiosi dell’Internet Of Things.

Sono davvero tanti i casi che vedono come protagonista Amazon Alexa. Come il caso di una coppia americana di Portland, che ha subito una vera e propria violazione della privacy, mentre si stava intrattenendo in una conversazione privata. L’audio di questa conversazione è stato inviato a un contatto scelto tra quelli presenti in rubrica. Le “Creepy Alexa Stories”, ovvero post pubblicati da utenti su anomalie del dispositivo Alexa, segnalando delle risate provenienti dallo stesso in piena notte. Segue il caso di Berlino in cui si è configurata la diffusione di circa 1700 conversazioni registrate con il dispositivo, all’utente sbagliato. . In questo caso la prima violazione del GDPR colpisce la privacy.

Ma è importante soffermare l’attenzione anche su altre violazioni commesse da Amazon, ovvero quella relativa alla mancata notifica della violazione sia all’autorità competente entro le 72 h e sia all’interessato, che è rimasto inconsapevole che tutti i suoi dati, tutte le informazioni e i comandi codificati erano nelle mani di un altro soggetto. Ci si è chiesti, in ragione di tale violazione, se fosse legittimo conservare le registrazioni e quindi esporsi al rischio di diffusione illegittima di conversazioni, violando così la privacy. Amazon a sua discolpa ha dichiarato che le conversazioni vengono conservate perché sono di aiuto ad Alexa nel processo di evoluzione e sviluppo.

Ecco come poi tutti questi casi,a seguito di un’attenta analisi, possono essere il trampolino di lancio per l’espansione del paradigma delle investigazioni, ovvero servirsi di questi dispositivi, sensibili a rumori ambientali o a rumori che risuonano similmente alla Key – Word, per estrapolare, con un mandato di perquisizione e sequestro, elementi processualmente rilevanti in fase decisionale. Sicuramente sono tutti elementi utilizzabili, in quanto non classificabili come documenti illegali e quindi possono affiancare le prove tradizionali, tenendo conto della scarsa materialità delle digital evidence, che le rende facilmente modificabili e successivamente poco attendibili.

Sono tanti gli aspetti che dovrebbero essere risolti in materia di Smart Assistant, perché con il progresso tecnologico, forse si rischia di subire ancor più violazioni ed è quindi opportuno anticiparle con le giuste cautele. Nonostante il grande sviluppo tecnologico, si anela sempre ad ottenere un’adeguata tutela della Privacy, cosi come anche dichiarato dall’ex procuratore Cunningham.

Note sull'autore

Francesca Giordano Francesca Giordano

Dottoressa in Scienze Investigative presso l'Università degli Studi di Foggia.

Prev La rilevanza del fattore umano nella sicurezza informatica
Next Privacy e intelligenza artificiale, i tre temi critici del 2020

Le novità del Regolamento UE 2016/679: il Data Protection Officer

Mappa dell'Italia Puglia Molise Campania Abruzzo Marche Lazio Umbria Basilicata Toscana Emilia Romagna Calabria

Rimani aggiornato gratuitamente con la nostra newsletter settimanale
captcha 
Privacy e Termini di Utilizzo