Amazon Echo e l'assistente vocale Alexa hanno avuto problemi ampiamente pubblicizzati con la privacy. Se è il quantità di dati raccolti o il fatto che, secondo quanto riferito, pagano dipendenti e, a volte, appaltatori esterni da tutto il mondo ascoltare le registrazioni per migliorare la precisione, esiste il potenziale per la perdita di informazioni personali sensibili attraverso questi dispositivi.
Ma i rischi non si estendono solo al nostro rapporto con Amazon. Le principali preoccupazioni sulla privacy stanno iniziando a emergere nel modo in cui i dispositivi Alexa interagiscono con altri servizi, rischiando una spirale distopica in aumento sorveglianza e controllo.
La configurazione di Echo trasforma Amazon in un gateway aggiuntivo attraverso il quale deve passare ogni interazione online, raccogliendo dati su ognuno di essi. Alexa sa cosa stai cercando, ascoltando o inviando i tuoi messaggi. Alcuni smartphone lo fanno già, in particolare quelli realizzati da Google e Apple che controllano hardware, software e servizi cloud.
Ma la differenza con un Eco è che riunisce gli aspetti peggiori di smartphone e case intelligenti. Non è un dispositivo personale ma integrato nell'ambiente domestico, sempre in attesa di ascolto. Alexa presenta anche un progetto artistico (non creato da Amazon) che cerca di far luce su questo con il raccapricciante "Chiedi agli ascoltatori"Funzione che fa commenti su quanto il dispositivo ti sta spiando. Alcuni dispositivi Echo dispongono già di telecamere e, se fossero state aggiunte funzionalità di riconoscimento facciale, potremmo entrare in un mondo di monitoraggio pervasivo nei nostri spazi più privati, anche monitorati mentre ci spostiamo da una posizione all'altra.
{vembato Y=MnvJ4Bh60L8}
Questa tecnologia offre ad Amazon un'enorme quantità di controllo sui tuoi dati, che è stato a lungo l'obiettivo della maggior parte dei giganti della tecnologia. Mentre Apple ed Google - che affrontano il loro propri problemi di privacy - hanno assistenti vocali simili, hanno almeno fatto progressi nell'esecuzione del software direttamente sui loro dispositivi, quindi non dovranno trasferire le registrazioni dei comandi vocali sui loro server. Amazon non sembra provare a fare lo stesso.
Ciò è dovuto in parte al modello di business aggressivo dell'azienda. I sistemi di Amazon sembrano non solo progettati per raccogliere quanti più dati possibile, ma anche per creare modi di condividerli. Quindi i potenziali problemi sono molto più profondi di Alexa che ascolta in momenti privati.
Condivisione con le forze dell'ordine
Un'area di preoccupazione è il potenziale per mettere le orecchie delle forze dell'ordine nelle nostre case, scuole e luoghi di lavoro. Apple ha un storia di resistere alle richieste dell'FBI per i dati degli utenti e Twitter è relativamente trasparente in merito alla segnalazione come risponde alle richieste dei governi.
Ma Ring, la società di telecamere di sicurezza domestica connessa a Internet di proprietà di Amazon, ha un rapporto di alto profilo con la polizia che coinvolge consegna dei dati dell'utente. Anche il modo in cui comunicano cittadini e polizia è sempre più monitorato e controllato da Amazon.
Sempre in ascolto. Tomasso79 / Shutterstock
Ciò rischia di incorporare una cultura di sorveglianza statale nelle operazioni di Amazon, che potrebbe avere conseguenze preoccupanti. Abbiamo visto numerosi esempi di forze dell'ordine e altri enti governativi nei paesi democratici che utilizzano dati personali per spiare le persone, entrambi in violazione della legge e al suo interno, ma per ragioni che vanno molto al di là la prevenzione del terrorismo. Questo tipo di sorveglianza di massa crea anche un grave potenziale di discriminazione, poiché è stato più volte dimostrato di avere un impatto peggiore una donna ed minoranza gruppi.
Se Amazon non è disposto a respingere, non è difficile da immaginare Le registrazioni di Alexa vengono consegnate alle richieste di dipendenti governativi e forze dell'ordine che potrebbero essere disposti a violare lo spirito o la lettera della legge. E dati gli accordi internazionali di condivisione dell'intelligence, anche se ti fidi del tuo governo, ti fidi degli altri?
In risposta a questo problema, un portavoce di Amazon ha dichiarato: “Amazon non divulga le informazioni dei clienti in risposta alle richieste del governo a meno che non ci venga richiesto di rispettare un ordine legalmente valido e accecante. Amazon si oppone naturalmente a richieste eccessive o altrimenti inadeguate.
"I clienti di Ring decidono se condividere i filmati in risposta a richieste della polizia locale che indagano sui casi. La polizia locale non è in grado di vedere alcuna informazione relativa a quali utenti di Ring hanno ricevuto una richiesta e se hanno rifiutato di condividere o rinunciare a richieste future." ha aggiunto che sebbene la polizia locale possa accedere all'app Ring's Neighbors per la segnalazione di attività criminali e sospette, non può vedere o accedere alle informazioni dell'account utente.
Monitoraggio dei problemi di salute
La salute è un'altra area in cui Amazon sembra tentare un'acquisizione. Il National Health Service (NHS) del Regno Unito ha firmato un accordo per la consulenza medica fornito tramite l'eco. A prima vista, ciò estende semplicemente le modalità di accesso alle informazioni disponibili al pubblico come il sito Web del SSN o la linea telefonica 111 - non vengono condivisi dati ufficiali dei pazienti.
Ma crea la possibilità che Amazon possa iniziare a tracciare le informazioni sulla salute che chiediamo tramite Alexa, costruendo efficacemente i profili delle storie mediche degli utenti. Questo potrebbe essere collegato a suggerimenti per lo shopping online, annunci di terze parti per terapie costose o persino annunci potenzialmente traumatici (pensa che le donne che hanno subito aborti spontanei essere mostrato prodotti per bambini).
Un portavoce di Amazon ha dichiarato: “Amazon non crea profili sulla salute dei clienti in base alle interazioni con i contenuti di nhs.uk né utilizza tali richieste per scopi di marketing. Alexa non ha accesso ad alcuna informazione personale o privata dal servizio sanitario nazionale. "
La crudezza e le anomalie della pubblicità algoritmica violerebbero gli standard professionali e morali che i servizi sanitari si sforzano di mantenere. Inoltre, sarebbe estremamente invasivo trattare i dati allo stesso modo di molte registrazioni Echo. Vorresti che un appaltatore esterno casuale sapesse che stavi chiedendo consigli sulla salute sessuale?
Trasparenza
Alla base di questi problemi c'è una mancanza di reale trasparenza. Amazon è inquietante silenzioso, evasivo e riluttante agire quando si tratta di affrontare le implicazioni sulla privacy delle loro pratiche, molte delle quali sono sepolte in profondità nei loro termini e condizioni o impostazioni difficili da trovare. Anche gli utenti esperti di tecnologia non ne sono necessariamente a conoscenza piena portata dei rischi per la privacye quando vengono aggiunte funzionalità di privacy, spesso solo rendere consapevoli gli utenti dopo che i ricercatori o la stampa hanno sollevato il problema. È del tutto ingiusto imporre agli utenti un tale onere per scoprire e mitigare quali sono questi rischi.
Quindi se hai un eco a casa tua, cosa dovresti fare? Ci sono molti consigli disponibili su come rendere il dispositivo più privato, ad esempio l'impostazione delle registrazioni vocali per eliminare o limitare automaticamente i dati condivisi con terze parti. Ma la tecnologia intelligente è quasi sempre una tecnologia di sorveglianza e il miglior consiglio è di non portarne uno a casa.
In risposta ai punti principali di questo articolo, un portavoce di Amazon ha detto a The Conversation:
In Amazon, la fiducia dei clienti è al centro di tutto ciò che facciamo e prendiamo molto sul serio la privacy e la sicurezza. Abbiamo sempre creduto che la privacy debba essere fondamentale e integrata in ogni componente hardware, software e di servizio che creiamo. Fin dall'inizio, abbiamo messo sotto controllo i clienti e siamo sempre alla ricerca di modi per rendere ancora più facile ai clienti avere trasparenza e controllo sulla loro esperienza con Alexa. Abbiamo introdotto numerosi miglioramenti della privacy tra cui l'opzione di eliminare automaticamente le registrazioni vocali dopo tre o 18 mesi su base continuativa, la possibilità di chiedere ad Alexa di "eliminare ciò che ho appena detto" e "eliminare ciò che ho detto oggi" e Alexa Privacy Hub, una risorsa disponibile a livello globale dedicata ad aiutare i clienti a conoscere meglio il nostro approccio alla privacy e i controlli che hanno. Continueremo a inventare più funzioni sulla privacy per conto dei clienti.
Questo articolo è stato modificato per chiarire che la funzione "Chiedi agli ascoltatori" è un progetto artistico creato da una terza parte.
L'autore
Garfield Benjamin, ricercatore post dottorato, School of Media Arts and Technology, Università Solent
Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.
