Cerca nel blog

2018/03/27

Griefbot: fantasmi digitali

In Be Right Back, una puntata della celebre serie di fantascienza Black Mirror, una giovane donna che ha perso tragicamente il proprio partner in un incidente stradale si trova a dover affrontare una tentazione inattesa che le arriva dagli amici: iscriversi a un servizio online che usa i dati accumulati nei social network dalla persona deceduta per creare una sorta di personalità virtuale che scrive, chatta, parla e si comporta come il partner che non c’è più. In pratica la donna continua a dialogare con il partner morto, come se fosse ancora vivo. Sul telefonino riceve messaggi che sembrano provenire da lui e sente persino la sua voce.

Quella puntata risale al 2013, ma cinque anni dopo la sua idea è già diventata realtà. Questo servizio viene chiamato “griefbot”, una parola che combina il termine inglese “grief” (ossia “lutto”), con “bot”, ossia “programma o agente automatico”.

Gli amici di un uomo russo, Roman Mazurenko, morto a Mosca investito da un’auto, hanno creato un griefbot, ossia un programma che attinge al vasto archivio di messaggi social lasciati da Roman e scrive come se fosse lui: gli amici considerano questo griefbot una sorta di monumento digitale in memoria dello scomparso.

Lo stesso ha fatto il tecnologo Muhammad Ahmad, che lavora presso l’università di Washington: quando è morto suo padre, ha raccolto tutti i suoi scritti, li ha digitalizzati e inseriti in un programma di intelligenza artificiale per dare ai propri figli l’occasione di farsi un’idea di come fosse il loro nonno che non hanno mai potuto conoscere.

Si tratta di sistemi sperimentali, costruiti pazientemente e in modo personalizzato: siamo ancora lontani da un servizio “chiavi in mano” che consenta, per esempio, di prendere tutte le chat di Facebook e WhatsApp e tutti i messaggi vocali di una persona e creare un suo duplicato virtuale credibile. Ma non sembrano esserci ostacoli tecnologici significativi.

Gli ostacoli, infatti, sono semmai di ordine etico. Per esempio, si può creare un clone virtuale di una persona senza il suo consenso? Chi è il titolare dei diritti sulla personalità di un defunto? E se il clone fosse di qualcuno che è ancora vivo e che quindi si trova ad avere un gemello online che parla e scrive come lui o lei?

Gli psicologi dicono che questo genere di personalità virtuale può avere una funzione consolatoria nella gestione di un lutto, persino quando chi ne fa uso è consapevole che si tratta semplicemente di un programma che pesca e rimescola le frasi pertinenti dall’archivio delle cose dette dalla persona defunta e non è capace di creare pensieri nuovi. In psicoterapia si usa spesso la tecnica della sedia vuota: il paziente dialoga con la sedia come se vi fosse seduta la persona che non c’è più. Questi griefbot sarebbero una versione digitale di questa tecnica.

La puntata di Black Mirror ha una conclusione che non è il caso di svelare qui ed è ben lontana dalle prestazioni dei griefbot attuali. Ma l’intelligenza artificiale progredisce in fretta e l’illusione di parlare con una persona reale diventa sempre più potente. E propone uno scenario inquietante: un giorno i social network saranno ricolmi di fantasmi.


Questo articolo è basato sul testo preparato per il mio servizio La Rete in 3 minuti per Radio Inblu del 27 marzo 2018.

34 commenti:

balloto ha detto...

Credo sia inevitabile che la tecnologia (che progredisce quotidianamente in maniera veloce) si "infiltrerà" anche nell'unica cosa certa della nostra vita (ovvero la sua fine). Prima o poi l'etica dovrà affrontare grandi interrogativi e chissà che il genere umano non sia vicino ad una sorta di evoluzione.
È un bel periodo per essere vivi a testimoniare tutto ciò.

Tommy the Biker ha detto...

Considerando come evolve la puntata, a me viene spontaneo pensare al fenomeno delle waifu, e a come esso potrebbe evolvere se questi bot dovessero prendere piede.

Alessandro M ha detto...

Siamo pericolosamente vicini al 1° Aprile, ci stai mettendo alla prova?
Dalle (poche) verifiche che ho fatto sembra autentico, tuttavia...
Viene da poco dopo una "scandalo" su facebook e i dati personali, e immediatamente dopo un post su "come si smascherano le bufale scientifiche".
Io, nel dubbio, sospetto.

Unknown ha detto...

Quando i morti supereranno i vivi su Facebook? Me lo chiedo sempre....

martinobri ha detto...

Necrofilia.

martinobri ha detto...

Chiarisco il commento precedente.

Non ho letto il link dove parla degli psicologi; io però ero rimasto al fatto che il lutto deve essere elaborato. Se non lo si accetta, come si fa?
Non voglio certo dire che non bisogna voler bene ai propri cari: conservo quasi come reliquie certi oggetti di mio padre, ma da qui a immaginarmelo vivo, anche per finta, ce ne corre assai.

Armando ha detto...

Scusate, una domanda tecnica.
Ma veramente sono così raffinati questi programmi?
Quando uso il traduttore automatico di Google difficile trovare una frase senza strafalcioni, segno che il traduttore non capisce di cosa si sta parlando.
Come possono questi programmi interagire in maniera significativa con persone in carne ed ossa senza farsi scoprire alla prima domanda?

Fabio Galletti ha detto...

C'è da un pezzo un commercio di medium e sedute spiritiche per che non riesce ad accettare il lutto.
Si può discutere se un algoritmo che copia e rielabora testi del defunto sia più "vero" dei trucchi da baraccone dei tavolini che ballano e dei veggenti.

Paolo Attivissimo ha detto...

Alessandro M.,

Siamo pericolosamente vicini al 1° Aprile, ci stai mettendo alla prova?

No. L'articolo è serio e cita fonti altrettanto serie.

Paolo Attivissimo ha detto...

Armando,

Ma veramente sono così raffinati questi programmi?

I migliori sì.

ST ha detto...

Più che altro cosa impedirebbe di applicarlo a una persona viva anche solo per uno scherzo (far dire-scrivere cose mai dette. Ad esempio un tweet compromettente)

Massimo ha detto...

@balloto
È un bel periodo per essere vivi a testimoniare tutto ciò.
Pensa che io (ingegnere informatico) invece inizio a invidiare mio nonno e il suo aver vissuto una vita un po' piu "al naturale"...

Nella mia personale idea del mondo, questa nostra società sta piano piano disimparando a soffrire. Per qualsiasi sofferenza c'è il rimedio giusto, dalla Tachipirina all'eutanasia, passando per il Voltaren che agisce talmente subito che quasi neanche te lo ricordi che stavi male. Questa idea di Griefbot, dal mio (discutibile) punto di vista è una soluzione in più per far finta tutti insieme che il dolore non esiste più, o almeno è bello crederlo.

Stupidocane ha detto...

Altered Carbon. La prima cosa che mi è saltata in mente leggendo l'articolo. Serie distopica su un futuro dove la coscienza non è nel corpo ma in un chip che può essere "montato" in altri corpi, chiamati semplicemente "custodie".

C'entra nulla con Griefbot, ma tratta il tema morte e soprattutto il lutto in un modo nuovo.

Max Slo ha detto...

Il primo che insinua, o anche solo pensa (tanto me ne accorgo) che la mia personalità e intelligenza sono già perfettamente clonabili anche solo con un 3310 scarico, lo picchio col joystick dell'Atari!

:)

Rouges17 ha detto...

Il fascino di Black Mirror sta nel suo non essere ambientato in un futuro indefinito e irraggiungibile ma in un futuro prossimo.
Mi sorgono due riflessioni, uno la quantità di tracce digitali (foto, messaggi, pensieri, filmati e registazioni) che ci lasciamo alle spalle.
La difficoltà di identificare un'identità digitale con una persona reale. Bot sempre più intelligenti, software di video editing in grado di applicare una faccia su un corpo diverso, possibilità di rubare o scambiare identità. Il mondo evolve più velocemente dei nostri strumenti mentali per decodificarlo, la battaglia alle fake news è la guerra del futuro.

Gwilbor ha detto...

Poi qualcuno creerà anche San Junipero, e allora veramente i morti supereranno in numero i vivi... :-D

Fra ha detto...

Io ho sempre l'impressione che ci sia troppa ignoranza riguardo a questi temi, che richiederebbero profonde conoscenze di informatica e ingegneria per essere trattati seriamente e con coscienza; ci si riempie la bocca di Machine Learning, Artificial Intelligence o Swarm Behavior senza sapere di cosa si sta parlando e si finisce per trattare questi temi come qualcosa di magico, dove tutto può accadere.

Invece i computer erano e sono rimaste macchine, che rispondono a determinati algoritmi che sono sempre e solo ideati dall'uomo e che, tra l'altro, sono formalizzati matematicamente; insomma, i limiti di funzionamento di una macchina sono chiari e invalicabili. Nessuna macchina può creare "nuove" regole di comportamento da sola o andare oltre lo scopo per cui è stata creata.

AlienMas ha detto...

Creepy. Concordo con Martinobri. Sarà vero che può servire come la "tecnica delle sedia vuota", ma bisogna porre un limite temporale all'utilizzo di questi griefbot, oppure ci si cristallizza e non si "va avanti" elaborando il lutto. Ho visto la puntata di black mirror
SPOILER (giusto per scrupolo)
e mi sembra che evolva proprio in questo senso.

Replicante Cattivo ha detto...

Concordo con ciò che dice Martinobri al commento #6 e che, in fondo, è lo stesso messaggio dell'episodio di Black Mirror citato nel post (di cui eviterò qualsiasi spoiler, perchè sarebbe un peccato mortale togliere alla gente il piacere di essere "disturbati" da questa serie): un conto è cercare un sistema per tentare di alleviare il dolore, un conto è voler procastrinare a tempo indefinito il momento dell'elaborazione e dell'accettazione, che invece è necessario per permetterci di poter proseguire con la nostra vita e, magari, costruirscene una nuova.

Per dire: non fatico a giustificare quelle persone che, dopo la dipartita di qualcuno, continuano a scrivergli sulla sua bacheca FB perchè, specialmente nei primi tempi, può essere un modo per sentire ancora vicina quella persona. Del resto queste azioni sono solo la versione 2.0 di chi si mette a dialogare con una foto o con un oggetto del caro estinto, a cui si aggiunge una buona dose di sano esibizionismo, tipico del mondo social (perchè, diciamocela tutta, se davvero qualcuno pensa che la persona deceduta possa controllare il suo profilo FB, tanto vale mandargli un messaggio privato anzichè scrivere sulla bacheca dove tutti possono leggerlo, no?). Questo, però, solitamente è un comportamento che tende ad esaurirsi dopo qualche settimana, perchè a quel punto ci si rende conto che è necessario andare avanti. Resta il dolore, resta il vuoto, ma la vita continua.

Invece ho sempre trovato al limite del grottesco il fatto che ci sia qualcuno che continui a gestire il social di una persona scomparsa, pubblicando post a suo nome o addirittura interagendo con altre utenze. Al di là del fatto che a me inquieterebbe parecchio ricevere dei like o notifiche a nome di una persona che non c'è più, questi metodi non mi sembrano molto diversi da quelli raccontati in "Be right back" e temo che potrebbero portare a perdere il contatto con la realtà.
A inizio 2018 è balzato agli onori della cronaca il caso di una madre di Cuneo che per quasi un anno ha a continuato a gestire l'account del figlio scomparso come se fosse ancora vivo e vegeto, fino a quando FB non glielo ha bloccato. Lei ovviamente ha dato di matto e si è opposta a questa decisione. Io posso capire (e solo lontanamente immaginare) il suo dolore, ma proprio perchè dopo un anno ancora insisteva a "fare finta" è chiaro che a lungo termine questo comportamento l'avrebbe portata a costruirsi un mondo virtuale da cui non sarebbe più potuta uscire. Senza contare che nessuno può sapere se suo figlio avrebbe davvero voluto questo.
Sebbene Facebook l'abbia sicuramente fatto più per motivi aziendali, che non etici, non posso che apprezzare questa scelta, tanto "dura" quanto necessaria.

Guga ha detto...

@Massimo
Capisco il punto di vista "romantico", ma alla fin fine ben venga se si può evitare di soffrire. Soffrire è brutto, che diamine.

Anonimo ha detto...

Anche molti commenti e risposte sono generati da programmi automatici.
Se vengono accoppiati ai dati biometrici vocali, si potrebbero ricevere anche telefonate di persone defunte da anni.

Scatola Grande ha detto...

Chissà cosa spunterebbe fuori facendo dialogare fra loro questi griefbot.

@stupidocane
parli della serie di Takeshi Kovacs scritta da Richard Morgan, non ricordavo il titolo originale, in Italia uscì come Bay City. Il chippone funge da backup, ma non ci risiede la coscienza sebbene si possa far girare il chippone anche in una realtà virtuale. Bella serie.

Mauri ha detto...
Questo commento è stato eliminato dall'autore.
Mauri ha detto...

Chiedo scusa ma non so se il messaggio è duplicato. Dico comunque che forse sono io ad essere troppo vecchio, ma mi ricordo quando discutevo con Eliza che viveva dentro un UNIVAC 1100 ;)

Mars4ever ha detto...

Già visto. :)
https://www.youtube.com/watch?v=VDcN2TMyd7w

ObyOnePerHobby ha detto...

@Unknown
Quando i morti supereranno i vivi su Facebook? Me lo chiedo sempre....

Una possibile risposta by XKCD
https://what-if.xkcd.com/69/

Daniele Forghieri ha detto...

@Scatola Grande
La serie è quella (Bay City, Angeli spezzati, Il ritorno delle furie), a mio parere molto bella.

Nel chip era presente tutta la coscienza / mente della persona, il backup lo facevano i riccastri (i 'Mat') in modo da potere ripristinarsi (in un altro chip) se succedeva qualcosa.

Infatti si parla, sia nel libro che nel telefilm, di 'Vera morte': quando veniva distrutto il chip.

Il concetto ricorda un po' il telefim Dollhouse di Whedon che non è al livello di Black Mirror ma aveva alcuni episodi abbastanza disturbanti

Fabio Galletti ha detto...

@Fra, #17.
Senza dubbio, l'aspetto da "apprendista stregone" dell'intelligenza artificiale è ingigantito.

Ma forse in questo caso è diverso: il problema non è l'AI che simula (anche bene) un defunto.
La parte "guasta" è nell'intelligenza naturale dell'essere umano che - non agendo in modo programmabile - finisce per danneggiare se o altri non elaborando un lutto.

Ripeto: il bot del caro estinto è il medium 2.0 con la seduta spiritica.
Forse più onesto del ciarlatano, ma non meno dannoso per chi non riesce a vivere senza che il.buonanima gli dica come fare.

Stupidocane ha detto...

Scatola Grande,

Proprio quella. Netflix ne ha fatto una serie nuova nuova.

Anonimo ha detto...

In un futuro Fb sarà popolato da fantasmi IA che continueranno a flammarsi fra di loro, come facevano le controparti viventi.

Pure l'IA di Mentana continuerà a blastare tutti quanti.

Diego Laurenti ha detto...

A me basta pensare che i nomi dei miei compianti genitori sono assieme al mio nel famoso Disco montato nella New Horizons, e ci resteranno tendenzialmente per moooolto tempo.

Paolo non finirò mai di ringraziarti, perchè grazie a questo tuo post,

https://attivissimo.blogspot.it/2005/08/mandate-il-vostro-nome-su-plutone.html

sono venuto a conoscenza della possibilità di registrare i nomi sul CD!

cyberninja ha detto...

@Guga
Dipende dal tipo di sofferenza. E dipende dal tipo di cura che viene usata per alleviarla.

Un pensiero a latere...
Leggendo certi messaggi che posta la gente sui vari social, se fossi in loro mi vergognerei a morte sapendo che verranno (probabilmente) usati per creare un mio clone virtuale. :-/

Claudio Fe ha detto...

@Guga
Sinceramente, la sofferenza fa parte della vita e bisogna imparare a gestirla e affrontarla.
Altrimenti si tirano su persone fragili e spaventate da tutto.

Replicante Cattivo ha detto...

@cyberninja

Un pensiero a latere...
Leggendo certi messaggi che posta la gente sui vari social, se fossi in loro mi vergognerei a morte sapendo che verranno (probabilmente) usati per creare un mio clone virtuale.


La tua non è un'osservazione trascurabile. Infatti, questi software si troverebbero a dover replicare il comportamento di un individuo, non secondo le sue caratteristiche reali, ma secondo l'immagine che tale persona voleva dare di sè attraverso i social.
Sappiamo tutti che la maggior parte delle utenze usa i social per mostrarsi migliori di quello che sono realmente: c'è chi vuole apparire come profondo e sensibile, chi si dà delle arie da grande condottiero, chi vuole apparire spiritoso, chi vuole far vedere che sa ancora come godersi la vita (foto di viaggi, vacanze, serate con gli amici), e chi vuole mettere in mostra i propri "successi" (in campo lavorativo, famigliare, sentimentale, ecc...)
La realtà è che la maggior parte degli utenti è composta da persone mediocri, che vivono una vita mediocre o, nei migliori dei casi, assolutamente normale. Ed è proprio questa mal digerita mediocrità a far sì che usino i social per crearsi un'immagine fittizia, alimentata dai like o dai commenti di perfetti sconosciuti. Il problema è che mentre alcuni "abboccano" a questa immagine fittizia, altri la riconoscono perfettamente e riescono a percepire tale mediocrità.
Il punto è: un software del genere, per essere credibile, come dovrebbe comportarsi? Dovrebbe limitarsi a ripetere i comportamenti virtuali del caro estinto o dovrebbe "interpretarli" (ammesso che sia in grado di farlo) e mostrarvelo per come è realmente?