AAA... acquisti

AAA... acquisti

E se davvero ci ascoltassero? I pericoli degli assistenti vocali

Come spesso accade, la realtà supera la fantasia. Mi riferisco ai casi di cronaca che coinvolgono i cosiddetti assistenti vocali, cioè quei software che sono in grado di dialogare con l’utente, non solo rispondere ad alcune banali domande (che tempo farà domani), ma anche leggere le nostre email e farsi dettare una risposta, fino alla possibilità di compiere acquisti online per nostro conto.

Ormai ce ne sono ovunque: nel nostro smartphone, nel braccialetto che misura i nostri passi o il nostro sonno, all’interno delle nostre auto. E non solo: l’industria elettronica sta dando a questi software forme adatte a popolare le nostre case come gadget di arredamento: sono nati quindi (solo per citare i più noti) Google Home e Amazon Echo, già disponibili in Italia e a quanto pare già molto pratichi nel dialogare con la nostra lingua. Ma questo è solo l’inizio della storia!

D’ora innanzi, con lo sviluppo dell’intelligenza artificiale, questi speakers non solo possono agevolmente chiamarci per nome, ma stanno registrando una grande quantità di informazioni sulla nostra famiglia, il nostro lavoro, le nostre abitudini e, manco a dirlo, i nostri consumi. Renderanno forse la vita di tutti noi più facile grazie ad un certo grado di automazione, ma non mancheranno i problemi, tanto più grandi, tanto più li cinsidereremo solo dei simpatici gadget. Perchè in verità sono molto di più: al punto che trovo assolutamente riduttivo (se non ingannevole) il nome stesso di speaker, visto che la loro principale funzione non è “parlare”, bensì ascoltare. E registrare e profilare!

Così, come dicevo, la cronaca si arricchisce di storie, forse a metá strada tra vero e leggenda, verità e fake news. Ma tutto fa brodo! Si racconta già, ad esempio, di casi in cui questi dispositivi elettronici sono stati utilizzati contro i proprietari. E non sono storie recenti: nel “lontano” 2007 in Louisiana. Il conducente di un’auto preme accidentalmente il pulsante d’emergenza che attiva il servizio d’emergenza OnStar. L’operatore risponde alla chiamata ma, non ricevendo alcuna risposta, avvisa la polizia.che, nel ricontattare l’interessato ascolta una conversazione dalla quale emerge una condotta delittuosa (spaccio di droga). La polizia, rilevata la posizione dell’automobile, ferma il conducente con l’accusa di spaccio. Da osservare l’Inutile difesa dell’uomo sulla legittimità degli atti di indagine: non era stata la polizia ad eseguire una intercettazione non autorizzata, ma il conducente a trasmettere (seppur inavvertitamente) informazioni rilevanti.

Insomma, si racconta di gadget che possono ascoltare e che diventano preziosi per le forze dell’ordine in quanto (generalmente) sono in grado di ripetere quello che hanno già ascoltato una volta. Ecco una storia avvenuta in Arkansas nel 2015: quattro uomini organizzano una festa e il mattino successivo il proprietario di casa trova il corpo senza vita di uno dei suoi invitati nella piscina dell’abitazione. E diventa immediatamente il principale sospettato, dal momento che gli altri invitati sostenevano di esser andati via prima dell’incidente. I detective notano la presenza di tanti dispositivi intelligenti in casa: sistemi di illuminazione e di allarme, una stazione meteo e l’assistente virtuale Amazon (la polizia sperava di ottenere registrazioni vocali risalenti alla notte dell’omicidio, ma le cronache riferiscono che l’azienda avrebbe rifiutato di condividere  informazioni sostenendo che Echo non registra continuamente, ma lo fa solo quando l’utente pronuncia la parola chiave “Alexa”). Così, la polizia ha trovato un altro dispositivo da cui era possibile trovare indizi: hanno messo agli atti la testimonianza di un… contatore dell’acqua intelligente. Nelle prime ore del mattino, dopo la morte della vittima, era stata utilizzata un’esorbitante quantità d’acqua, ma il padrone di casa aveva sostenuto di dormire in quel momento. Gli investigatori hanno sospettato che l’acqua fosse stata utilizzata per rimuove tracce di sangue. Il processo, tuttora in corso, si incentra sulla difesa dell’uomo sotto accusa sostiene che un errore nell’impostazione dell’orario che del contatore.

Ma la storia forse più nota è quella di Brooke che a sei anni chiede ad Alexa (ancora una volta l’assistente vocale di Amazon Echo) di giocare alla casa delle bambole e la macchina, che come impostazione di default ha gli acquisti automatici attivati e non è in grado di distinguere tra una persona o l’altra, attiva subito un ordine su Amazon.it. Il giorno dopo a casa di Brooke viene recapitata una casa delle bambole (e un pacco da ben 2 kg di biscotti). La foto felice di Brooke ha fatto il giro del mondo.

Vale la pena di chiedersi se di vera felicità si tratta... In Europa un giocattolo è stato accusato di registrare le conversazioni con i piccoli consumatori per carpirne gusti e desideri: si tratta di una bambola con la quale è possibile interagire facendo domande.

Insomma, le nostre vite cominceranno presto ad essere spiate da molte orecchie: all’ultima conferenza CES di Las Vegas, quasi ogni cosa intelligente presentata (dalle automobili ai frigoriferi) era dotata di un assistente virtuale. Questa moda darà sicuramente luogo a nuovi rischi per la privacy, per la sicurezza e anche forse per l’incolumità fisica (all’inizio di quest’anno si sono registrati due incidenti mortali che hanno coinvolto auto a guida intelligente di Tesla e Uber).

Ma intanto, una certa preoccupazione riguarda anche la libertà delle nostre scelte di consumo. Ora, senza voler drammatizzare il fenomeno, è però bene ricordare che la profilazione occulta è illegittima: tutti noi siamo già “schedati” in forza dei siti che navighiamo, degli acquisti che facciamo. Molto presto grazie all’internet delle cose applicato agli ambienti domestici, lo stesso frigorifero saprà cosa manca a casa e forse sarà autorizzato a fare la spesa online: ebbene in quel momento, anche quell’elettrodomestico apparentemente così innocuo ci sta spiando… come già la nostra auto che conosce i nostri spostamenti e il nostro stile di guida, ma anche le interazioni con l’assistente virtuale che -come dicevo- è ormai molto diffuso a bordo.

In molti mi chiedono come possiamo difenderci. Non mi piace mettere la questione in questi termini, anche se capisco che si parli abitualmente di “protezione” dei dati, ma mi sembra un approccio difensivo. Preferirei parlare di “corretto utilizzo dei dati” perché in questo senso potremmo arrivare ad immaginare situazioni nelle quali ciascuno di noi può accettare di cedere (consapevolmente) alcune informazioni in cambio di servizi realmente utili.

E poi questa equidistanza ci aiuta (e qui parlo come rappresentante degli interessi tutelati dall’Unione Nazionale Consumatori) a ricordare ai consumatori che molto dipende dalla nostra stessa padronanza delle situazioni circostanti. Ecco allora qualche consiglio di autodifesa. 

Come spesso accade, la realtà supera la fantasia. Mi riferisco ai casi di cronaca che coinvolgono i cosiddetti assistenti vocali, cioè quei software che sono in grado di dialogare con l’utente, non solo rispondere ad alcune banali domande (che tempo farà domani), ma anche leggere le nostre email e farsi dettare una risposta, fino alla possibilità di compiere acquisti online per nostro conto.

Ormai ce ne sono ovunque: nel nostro smartphone, nel braccialetto che misura i nostri passi o il nostro sonno, all’interno delle nostre auto. E non solo: l’industria elettronica sta dando a questi software forme adatte a popolare le nostre case come gadget di arredamento: sono nati quindi (solo per citare i più noti) Google Home e Amazon Echo, già disponibili in Italia e a quanto pare già molto pratichi nel dialogare con la nostra lingua. Ma questo è solo l’inizio della storia!

D’ora innanzi, con lo sviluppo dell’intelligenza artificiale, questi speakers non solo possono agevolmente chiamarci per nome, ma stanno registrando una grande quantità di informazioni sulla nostra famiglia, il nostro lavoro, le nostre abitudini e, manco a dirlo, i nostri consumi. Renderanno forse la vita di tutti noi più facile grazie ad un certo grado di automazione, ma non mancheranno i problemi, tanto più grandi, tanto più li cinsidereremo solo dei simpatici gadget. Perchè in verità sono molto di più: al punto che trovo assolutamente riduttivo (se non ingannevole) il nome stesso di speaker, visto che la loro principale funzione non è “parlare”, bensì ascoltare. E registrare e profilare!

Così, come dicevo, la cronaca si arricchisce di storie, forse a metá strada tra vero e leggenda, verità e fake news. Ma tutto fa brodo! Si racconta già, ad esempio, di casi in cui questi dispositivi elettronici sono stati utilizzati contro i proprietari. E non sono storie recenti: nel “lontano” 2007 in Louisiana. Il conducente di un’auto preme accidentalmente il pulsante d’emergenza che attiva il servizio d’emergenza OnStar. L’operatore risponde alla chiamata ma, non ricevendo alcuna risposta, avvisa la polizia.che, nel ricontattare l’interessato ascolta una conversazione dalla quale emerge una condotta delittuosa (spaccio di droga). La polizia, rilevata la posizione dell’automobile, ferma il conducente con l’accusa di spaccio. Da osservare l’Inutile difesa dell’uomo sulla legittimità degli atti di indagine: non era stata la polizia ad eseguire una intercettazione non autorizzata, ma il conducente a trasmettere (seppur inavvertitamente) informazioni rilevanti.

Insomma, si racconta di gadget che possono ascoltare e che diventano preziosi per le forze dell’ordine in quanto (generalmente) sono in grado di ripetere quello che hanno già ascoltato una volta. Ecco una storia avvenuta in Arkansas nel 2015: quattro uomini organizzano una festa e il mattino successivo il proprietario di casa trova il corpo senza vita di uno dei suoi invitati nella piscina dell’abitazione. E diventa immediatamente il principale sospettato, dal momento che gli altri invitati sostenevano di esser andati via prima dell’incidente. I detective notano la presenza di tanti dispositivi intelligenti in casa: sistemi di illuminazione e di allarme, una stazione meteo e l’assistente virtuale Amazon (la polizia sperava di ottenere registrazioni vocali risalenti alla notte dell’omicidio, ma le cronache riferiscono che l’azienda avrebbe rifiutato di condividere  informazioni sostenendo che Echo non registra continuamente, ma lo fa solo quando l’utente pronuncia la parola chiave “Alexa”). Così, la polizia ha trovato un altro dispositivo da cui era possibile trovare indizi: hanno messo agli atti la testimonianza di un… contatore dell’acqua intelligente. Nelle prime ore del mattino, dopo la morte della vittima, era stata utilizzata un’esorbitante quantità d’acqua, ma il padrone di casa aveva sostenuto di dormire in quel momento. Gli investigatori hanno sospettato che l’acqua fosse stata utilizzata per rimuove tracce di sangue. Il processo, tuttora in corso, si incentra sulla difesa dell’uomo sotto accusa sostiene che un errore nell’impostazione dell’orario che del contatore.

Ma la storia forse più nota è quella di Brooke che a sei anni chiede ad Alexa (ancora una volta l’assistente vocale di Amazon Echo) di giocare alla casa delle bambole e la macchina, che come impostazione di default ha gli acquisti automatici attivati e non è in grado di distinguere tra una persona o l’altra, attiva subito un ordine su Amazon.it. Il giorno dopo a casa di Brooke viene recapitata una casa delle bambole (e un pacco da ben 2 kg di biscotti). La foto felice di Brooke ha fatto il giro del mondo.

Vale la pena di chiedersi se di vera felicità si tratta... In Europa un giocattolo è stato accusato di registrare le conversazioni con i piccoli consumatori per carpirne gusti e desideri: si tratta di una bambola con la quale è possibile interagire facendo domande.

Insomma, le nostre vite cominceranno presto ad essere spiate da molte orecchie: all’ultima conferenza CES di Las Vegas, quasi ogni cosa intelligente presentata (dalle automobili ai frigoriferi) era dotata di un assistente virtuale. Questa moda darà sicuramente luogo a nuovi rischi per la privacy, per la sicurezza e anche forse per l’incolumità fisica (all’inizio di quest’anno si sono registrati due incidenti mortali che hanno coinvolto auto a guida intelligente di Tesla e Uber).

Ma intanto, una certa preoccupazione riguarda anche la libertà delle nostre scelte di consumo. Ora, senza voler drammatizzare il fenomeno, è però bene ricordare che la profilazione occulta è illegittima: tutti noi siamo già “schedati” in forza dei siti che navighiamo, degli acquisti che facciamo. Molto presto grazie all’internet delle cose applicato agli ambienti domestici, lo stesso frigorifero saprà cosa manca a casa e forse sarà autorizzato a fare la spesa online: ebbene in quel momento, anche quell’elettrodomestico apparentemente così innocuo ci sta spiando… come già la nostra auto che conosce i nostri spostamenti e il nostro stile di guida, ma anche le interazioni con l’assistente virtuale che -come dicevo- è ormai molto diffuso a bordo.

In molti mi chiedono come possiamo difenderci. Non mi piace mettere la questione in questi termini, anche se capisco che si parli abitualmente di “protezione” dei dati, ma mi sembra un approccio difensivo. Preferirei parlare di “corretto utilizzo dei dati” perché in questo senso potremmo arrivare ad immaginare situazioni nelle quali ciascuno di noi può accettare di cedere (consapevolmente) alcune informazioni in cambio di servizi realmente utili.

E poi questa equidistanza ci aiuta (e qui parlo come rappresentante degli interessi tutelati dall’Unione Nazionale Consumatori) a ricordare ai consumatori che molto dipende dalla nostra stessa padronanza delle situazioni circostanti

AAA... acquisti

Attenzione Agli Acquisti: tutto quello che i consumatori non devono fare quando decidono di comprare qualcosa. Dal supermercato all'e-commerce, passando da bollette impazzite e prodotti difettosi: mai credere alla pubblicità e mai rassegnarsi. Parola del Presidente dell'Unione Nazionale Consumatori

Attendere un istante: stiamo caricando i commenti degli utenti...

Commenti

Torna su
Today è in caricamento