Alexa fa parlare i morti

Questo articolo è disponibile anche in versione podcast audio.

C’è una puntata della celebre serie distopica Black Mirror, intitolata Be Right Back (Torna da me nella versione italiana), nella quale una donna subisce la perdita drammatica del proprio partner in un incidente.

Al funerale, un’amica le parla di un servizio online che raccoglie tutte le informazioni pubblicate sui social network dal defunto e tutti i suoi messaggi vocali e video e da lì crea un avatar che sullo schermo dello smartphone parla esattamente come lui e ha il suo stesso aspetto. 

Inizialmente inorridita, la donna rifiuta, ma poi… succedono cose che non racconto per non guastare la storia a chi non ha ancora visto questa puntata.

Dovrebbe essere chiaro a tutti che le storie di Black Mirror sono esempi di cosa non fare con la tecnologia, ma a quanto pare qualcuno ad Amazon ha scambiato questa serie per un manuale di istruzioni.

Pochi giorni fa, infatti, Rohit Prasad, capo ricercatore dell’intelligenza artificiale di Alexa, il celebre assistente vocale di Amazon, ha presentato in una conferenza pubblica una versione di Alexa che è in grado di imitare le voci delle persone, e l’esempio che fa sembra proprio preso di peso da Black Mirror.

“In questi tempi di pandemia perdurante” dice “così tanti di noi hanno perduto qualcuno che amiamo. Anche se l’intelligenza artificiale non può eliminare quel dolore della perdita, può certamente far durare i loro ricordi.”

A questo punto Prasad mostra un video nel quale un giovane ragazzo chiede ad Alexa di fare in modo che la nonna, che non c’è più, gli finisca di leggere Il Mago di Oz.

Alexa risponde “OK” con la sua solita voce, ma poi cambia tono e recita con la voce della nonna del ragazzo.

Il video è già posizionato al momento giusto, a 1:02:38.

Già così la cosa può evocare sentimenti contrastanti, ma quello che dice poi Prasad è ancora più inquietante: la voce della nonna è stata ricreata partendo da meno di un minuto di una sua conversazione. Non servono più ampi e lunghi campioni di voce registrati accuratamente in uno studio.

Si potrebbe discutere sull’impatto emotivo di questa nuova tecnologia e chiedersi se sentire per casa la voce di una persona amata che non c’è più, ricreata artificialmente da un programma, sia davvero una consolazione o una forma di prolugamento del dolore. Ma c’è una questione molto più concreta, che va affrontata subito, mentre questa capacità di imitazione non è ancora disponibile al pubblico: se è possibile imitare facilmente la voce di una persona in questo modo per ricrearne la presenza, allora è possibile farlo, per esempio, anche per sbloccare il suo smartphone bloccato dal riconoscimento vocale o per scavalcare le cosiddette password vocali usate da alcune banche e persino dal Fisco britannico, che fino a pochi anni fa chiedeva ai contribuenti di identificarsi al telefono dicendo la frase “my voice is my password”, ossia “la mia voce è la mia password”.

No, non funziona così. Se la tua voce la possono imitare tutti, la tua password è di tutti.

Il problema è che Amazon non è l’unica azienda in grado di replicare realisticamente la voce di una persona specifica, la potenza di calcolo e il campione audio necessari diventano sempre più piccoli, e non sembra esserci alcun modo di impedire a malintenzionati di registrare la nostra voce. 

Forse è il caso di cominciare a smettere di usare sistemi di sicurezza basati sul riconoscimento vocale. E magari di passare del tempo a chiacchierare con la nonna, finché si può. 

Fonti aggiuntive: Graham Cluley, Ars Technica, The Register.