Cerca nel blog

2018/06/01

Assistenti vocali troppo pettegoli: Amazon Echo cattura e invia conversazione privata

Amazon Echo in versione HAL.
Credit: Cryteria (CC-BY).
Ricordate quando dicevo che mettersi in casa un microfono sempre aperto e connesso a Internet, come per esempio un Google Home o un Amazon Echo, era una pessima idea perché esponeva al rischio che qualcuno ascoltasse le conversazioni? È successo. Non ci voleva un genio particolare per prevederlo, per cui non mi voglio prendere meriti da profeta, ma almeno un “ve l’avevo detto” credo di potermelo permettere.

Un assistente vocale (o “altoparlante smart”) Echo di Amazon, installato in una casa a Portland, in Oregon, ha ascoltato, registrato e inviato una conversazione privata tra moglie e marito a un conoscente degli abitanti della casa che vive a Seattle. Amazon ha confermato la notizia, accolta inizialmente con una certa incredulità.

Tutto è iniziato a metà maggio scorso con una telefonata da uno dei dipendenti della coppia, che avvisava di scollegare subito i dispositivi di Amazon presenti in casa perché erano stati “hackerati”. Il dipendente ha spiegato che aveva ricevuto dei file audio che contenevano registrazioni delle conversazioni avvenute nella casa. La coppia, inizialmente incredula, ha dovuto ricredersi quando il dipendente ha descritto il contenuto di una conversazione e poi gliel’ha fatta riascoltare.

Amazon, contattata dalla coppia, si è scusata, ha analizzato i log dell’altoparlante smart e ha spiegato come è avvenuta la violazione della sfera privata: il dispositivo Echo, permanentemente in ascolto, ha captato delle parole nella conversazione della coppia che ha interpretato come un comando di attivazione (il comando standard è il nome Alexa). Poi ne ha captate delle altre che ha interpretato come una richiesta di inviare un messaggio (send message).

A questo punto Echo ha detto “To whom?” (“A chi?”) e poi si è messo in ascolto in attesa che qualcuno dicesse il nome del destinatario del messaggio. La coppia, ignara della richiesta e del microfono aperto, ha proseguito la propria conversazione ed Echo ha interpretato alcune delle loro parole come il nome di una persona presente nella rubrica dei contatti.

Echo ha poi chiesto conferma dicendo “[nome del contatto], right?” e si è messo in attesa di una risposta. Intanto la coppia ha continuato a parlare ed Echo ha interpretato erroneamente alcune delle loro parole come una conferma (“right”) e quindi ha inviato il messaggio, contenente un brano della conversazione.

In sintesi:
  • Coppia: bla bla bla bla bla
  • Echo capisce che gli è stato ordinato di mandare un messaggio e chiede “A chi?”
  • Coppia: bla bla bla bla bla
  • Echo capisce che gli è stato detto il nome del contatto a cui mandare il messaggio e chiede “A [nome], giusto?”
  • Coppia: bla bla bla bla bla
  • Echo capisce che gli è stato risposto “Giusto”, inizia a registrare il “messaggio” e lo manda al contatto.

Tre errori di interpretazione concatenati sono un evento improbabile, certo, ma l’evento improbabile è avvenuto, dimostrando chiaramente che questi dispositivi possono fraintendere facilmente i comandi vocali e addirittura inventarsene quando non ne sono stati dati.

La coppia ha chiesto ad Amazon il rimborso dei dispositivi Alexa. Amazon per ora non ha accettato e ha dichiarato che sta prendendo “misure affinché questo non succeda in futuro”.


Fonte aggiuntiva: Ars Technica.

15 commenti:

ST ha detto...

Non basterebbeun impostare un tempo limite per dare le risposte? Se entro 2 secondi ilsistemanon riceve una risposta corretta annulla tutto.

Scatola Grande ha detto...

Ma che il dispositivo avesse domandato non se ne è accorto nessuno?

Qualcomm intanto annuncia dispositivi di riconoscimento vocale con la fondamentale differenza che il riconoscimento avviene in locale. Mi sa che hanno subdorato l'affare.
Le caratteristiche sono analoghe a quelle dei concorrenti ma il database e l'apprendimento rimarrà locale.
https://venturebeat.com/2018/05/25/qualcomm-claims-its-on-device-voice-recognition-is-95-accurate/

Andrea T. ha detto...

È un fatto interessante, io per lo meno lo trovo così. Credo che questi strumenti non si debbano demonizzare, credo sia giusto sottolineare che sì siamo agli esordi e quindi pieni di bug ma che il progresso non si deve fermare, così come per la guida autonoma. Insomma è il tuo blog e giustamente hai tutti i diritti di dire ciò che pensi ("pessima idea"), ma credo che come divulgatore potresti anche sottolineare che il progresso è lastricato di errori, ma si deve comunque perseguire, anche per questo tipo di domotica...

Sisifo ha detto...

La maggioranza delle persone è stata così condizionata dal "se non hai nulla da nascondere non hai nulla da temere", che non si pongono proprio il problema.

VITRIOL ha detto...

Mi è arrivato proprio stamattina gratuitamente un dispositivo Echo perché faccio da beta tester alla localizzazione italiana di Alexa :-P

VITRIOL ha detto...

@ST
Io ho ricevuto proprio stamattina un dispositivo Echo italiano in beta test, e funziona proprio così. Quando dici la parola chiave (di default Alexa, ma si può cambiare con altre possibilità) si accende l'anello di LED con una colorazione blu e resta in ascolto per circa 5 secondi. Se non dici niente si spegne. Se invece dici qualcosa che non capisce ti dice chiaramente che non ha capito e si spegne.

Max Slo ha detto...

Io comunque appena esce in Italia lo piglio al volo!
u.u

Norrin_Radd ha detto...

Io userei questi affari solo se muniti di apposito pulsantone rosso luminoso (di almeno 10 cm di diametro) che ne attivi il microfono.
Utenti meno drastici di me potrebbero usare un mini telecomando indossabile, stile comunicatore di Star Trek TNG.

Max Slo ha detto...

Perfettamente d'accordo con Andrea T.
Pensate che figo un cosino come Alexa che funziona bene e senza problemi.

Io comunque appena esce la versione italiana del cosino la prendo al volo! u.u
Anzi, pensavo già esistesse e ci sono rimasto malissimo.

Su questo tema (bene o male della tecnologia che avanza) una perla recente è Detroit: Become Human di quei geniacci dei Quantic Dream. Giocateci se ne avete occasione (PS4), è un capolavoro senza mezze misure.

Anche la tecnologia deve inciampare, prima di poter correre.
Siamo noi che la trattiamo come fosse già adulta, vedasi i casi Tesla.

VITRIOL ha detto...

@Max Slo
In Italia dovrebbe uscire entro l'anno. Io ho ricevuto una mail da Amazon che mi chiedeva se volevo partecipare a un beta test in anteprima per la versione italiana. Ho accettato e mi hanno inviato il dispositivo Echo (non quello della foto dell'articolo, quello è il Dot), il link per scaricare l'app Android in anteprima e un abbonamento a Music Unlimited. Tutto gratuito chiedendomi solo di usarlo.
In Italia non so quale dispositivo uscirà, credo quello che hanno dato a me e non il Dot. Quello "normale" è più grande ed ha un audio molto migliore, adatto per ascoltare la musica.
In USA esiste anche una versione Plus ancora migliore ma più costosa, quindi il tutto sono tre. E' da vedere che decisione prenderanno per il mercato italiano.

Berto ha detto...

Max Slo ha commentato:
"Io comunque appena esce in Italia lo piglio al volo!
u.u"

...a colpi di carabina.

Scatola Grande ha detto...

Andrea the,
Lancashire critical non riguarda l'oggetto in se ma il fatto che i dati siano trasmessi altrove invece di essere elaborati in loco.
Il dispositivo annunciato da qualcom non manderà dati da nessuna parte, perché non fanno lo stesso anche gli altri?

Il Lupo della Luna ha detto...

Ieri sera il mio Google Home ha sentito "ok, google" in uno spot TV e si è attivato. Esiste un modo per fargli riconoscere solo la mia voce?

ST ha detto...

@vitriol
Grazie. Una domanda ancora, se il dispositivo non comprende la risposta per quanto "insiste" a chiedere?
Mi ricirdo tanti anni fa i sistemi automatici per acquisti col telefono al terzo tentativo andato a vuoto annullavano il tutto.
A questo punto mi sembra un po strano che sia possibile inviare involontariamente un discorso a qualcuno se non per intervento di terzi

Scatola Grande ha detto...

the,
Lancashire critical è un artefatto del correttore su Android, doveva essere semplicemente la mia critica.