skip to main | skip to sidebar
34 commenti

Antibufala mini: “robot di Facebook” che parlano fra loro una lingua sconosciuta

Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi piace, potete farne una anche voi per incoraggiarmi a scrivere ancora. Ultimo aggiornamento: 2017/08/02 1:05.

No, non c’è nessuna “paura nella Silicon Valley”, come scrive Il Messaggero (copia su Archive.is) titolando “Due robot iniziano a parlare fra loro in una lingua sconosciuta: sospeso l'esperimento di Facebook”. Huffington Post, invece, titola “Facebook sospende il test per l'Intelligenza Artificiale: "Due bot hanno inventato un proprio linguaggio, incomprensibile all'uomo"” (copia su Archive.is).

La realtà, come spiega divertita la BBC invece di fare terrorismo luddista, è che la notizia, pubblicata inizialmente da Facebook, risale a giugno scorso, quando era passata inosservata (a parte qualche commento di riviste scientifiche divulgative): due chatbot di Facebook avevano dialogato tra loro in modo curioso. Tutto qui.

Ma adesso la storia è stata ripresa dai tabloid britannici (Mirror e dal Sun, per esempio, che mi rifiuto di linkare) con toni catastrofici, da insurrezione robotica imminente, come se domattina dovessimo temere l’attacco dei tostapane che hanno preso coscienza della propria condizione sociale. E guarda caso la notizia viene pubblicata solo ora dai media italofoni. Sarà un caso? Noi crediamo di no, direbbe qualcuno.

Non c’è nessuna intelligenza artificiale ostile che trama contro l’umanità in lingue segrete e non c’è stato nessun panico: semplicemente l’esperimento di intelligenza artificiale (due programmi che dialogavano tra loro, non due robot) “è stato chiuso perché faceva cose che al team di ricercatori non interessavano -- non perché i ricercatori pensavano di essersi imbattuti in un rischio per l’esistenza dell’umanità.”

Ancora una volta e con sentimento: non perdete tempo a leggere notizie tecniche o scientifiche sui giornali generalisti. Con pochissime eccezioni (per esempio Il Post), chi le scrive non capisce un’acca della materia e per di più copia dai peggiori giornali britannici invece che dalle pubblicazioni divulgative competenti. Procuratevi una rivista tecnica e leggetela: se non potete, date per scontato che quello che leggete sui giornali generalisti è una bufala.
Invia un commento
I commenti non appaiono subito, devono essere tutti approvati manualmente da un moderatore a sua discrezione: è scomodo, ma è necessario per mantenere la qualità dei commenti e tenere a bada scocciatori, spammer, troll e stupidi.
Inviando un commento date il vostro consenso alla sua pubblicazione, qui e/o altrove.
Maggiori informazioni riguardanti regole e utilizzo dei commenti sono reperibili nella sezione apposita.
NOTA BENE. L'area sottostante per l'invio dei commenti non è contenuta in questa pagina ma è un iframe, cioè una finestra su una pagina di Blogger esterna a questo blog. Ciò significa che dovete assicurarvi che non venga bloccata da estensioni del vostro browser (tipo quelle che eliminano le pubblicità) e/o da altri programmi di protezione antimalware (tipo Kaspersky). Inoltre è necessario che sia permesso accettare i cookie da terze parti (informativa sulla privacy a riguardo).
Commenti
Commenti (34)
Ho chiesto a Google di assumermi perchè parlo il Marchigiano stretto, con elementi Klingon.
Non mi hanno preso, mannaggia al Q'Plà.
Grazie ad articoli come questi non mi meraviglierebbe che sbucasse fuori all'improvviso un comitato Anti-AI.
Intelligenza artificiale ... stupidità naturale.

Tra l'uomo e la macchina uno solo dovrebbe essere l'essere intelligente, e dovrebbe essere l'uomo, ma in questi casi è una battaglia persa in partenza.
Mi pare si trattasse di un baco, i bot non erano stati forzati a parlare in inglese.
voglio poter votare Data alle prossime elezioni!
@EpSiLoN74

Mi vien voglia di fondarlo io stesso per farmi due risate.
L'articolo è ottimo, solo un dettaglio:
perchè dici "in questo caso, il Post"? C'è bisogno di specificare "In questo caso"?. Hai una visione così riduttiva di una testata giornalistica che davvero si differenzia dalle altre sistematicamente e non in singoli casi? Consiglio: Fossi in te, per rendere giustizia a una delle rarissime testate che fanno debunking in modo serio, toglierei la precisazione "in questo caso", e scriverei "come fa sempre in questi casi Il Post".
Penso che l'articolo migliore in italiano sia quello di Riccardo Oldani sul sito di Le Scienze lescienze.blogautore.espresso.repubblica.it/2017/06/23/quando-lia-si-inventa-una-lingua-tutta-sua/
Ciao Paolo, ma tu come la vedi? Intendo l'AI? Hai letto dello scambio di battute tra Musk e Zuckerberg a riguardo? Tra i commenti al tweet avevo trovato questo articolone a favore delle tesi di Musk. Ho tentato di leggerlo ma è lunghissimo e soprattutto con l'inglese un po' mi sono perso. Non sarebbe male un bel post a riguardo. Ecco il link: https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
L'articolo, se non erro, è stato ripreso anche da Punto Informatico:

http://punto-informatico.it/4396850/PI/News/facebook-stop-ai-timore-skynet.aspx


@Arcturus,
sottoscrivo. L'ho notato anch'io, e ho pensato la stessa cosa...
Arcturus,

perchè dici "in questo caso, il Post"?

Soltanto perché per logica non posso affermare che tutti gli articoli del Post sono corretti. So che lavora bene, ma non avendoli letti tutti (e anzi leggendone solo una piccola parte), non posso dire "come fa sempre".
Arcturus,

rileggendomi capisco l'ambiguità. Ho riformulato, grazie.
Tra l'altro, a quanto ho potuto leggere dall'articolo, la famosa "lingua" era inglese in modalità balbuziente semianalfabeta...
Sapendo cosa stavano facendo i chatbot non mi stupisco di cosa si dicevano.
@Lorenzo Poderi
L'ho letto pure io quell'articolo e avrei davvero piacere di parlare con qualcuno che studia le reti neurali e l'intelligenza artificiale. L'argomento è avvincente, ma ormai non so davvero più dove cercare informazioni serie
@andrea interessante l'articolo di Oldani e anche molto chiaro. I commenti però sembrano scritti dai due chatbot, tra filippiche sulla "meravigliosa lingua italiana", quando i due cosi parlavano in inglese, riferimenti a Donald Trump, consigli di leggere libri di Rodotà completamente non correlati...

Sicuri che la preoccupazione non sia che i chatbot diventino come noi? 😎
In verità, il Post non è stato granché essendosi limitato a scopiazzare e tradurre (maluccio) articoli più approfonditi di riviste specializzate, oltre che il blog post sull'argomento di Facebook.
Io vorrei un IA (con le opportune routine morali) fare proposte di gestione per lo stato che poi i nostri bananoni di politici dovrebbero approvare / respingere (e tutto pubblicato).

Altrochè paura di due programmi che parlano tra di loro.
Articoli sensazionalistici come questi hanno anche un'altro effetto: nascondono quello che è a tutti gli effetti un momento magico per la ricerca sulla intelligenza artificiale. Stiamo vivendo davvero un rinascimento in questo campo. Io farei un parallelo con gli articoli sulle fantomatiche costruzioni marziane su marte e le scoperte reali che stanno facendo i rover: non c'è bisogno di sensazionalizzare qualcosa che è già sensazionale. Tornando alla IA:

Quest'anno c'è stato un proliferare di articoli su studi di IA in ambienti simulati. C'è ad esempio uno studio di Openai (azienda finanziata da Musk) in cui un gruppo di IA il cui obiettivo è fare un gioco il cui punteggio era massimo se collaboravano tra loro ha sviluppato una sorta di linguaggio: in pratica si dicevano cose del tipo "occhio che il tuo traguardo è in alto a destra" "attenzione seguimi che il tuo bersaglio è vicino al mio"...

https://blog.openai.com/learning-to-communicate/

In altri casi abbiamo IA che imparano a muovere dei manichini tridimensionali partendo da movimenti casuali fino ad arrivare a camminare, alzarsi, correre e saltare senza che nessuno le programmasse a parte darle un premio se raggiungevano il traguardo nel tempo più breve.

https://deepmind.com/blog/producing-...-environments/

Google Deepmind ha sviluppato degli algoritmi per fornire alle IA primi abbozzi di immaginazione, capacità di creare nuovi concetti in base all'esperienza, e ragionamento:

https://deepmind.com/blog/agents-imagine-and-plan/

https://deepmind.com/blog/imagine-cr...familiar-ones/

https://deepmind.com/blog/neural-app...nal-reasoning/
Nonostante le doverose e corrette precisazioni dell'articolo resta curioso il fatto che spesso negli ultimi anni su sistemi informatici sperimentali che vengono definiti "quantistici", le virgolette sono d'obbligo, si tratta di sistemi in grado di compiere più di una operazione simultaneamente e non in modo squenziale, emulando, in questo, il comportamento di un cervello biologico, ebbene questi sistemi dopo poco tempo dalla loro attivazione eseguono calcoli per proprio conto, occupando gran parte delle loro risorse che non risultano più disponibili per i propri utilizzatori, in altre parole, ancora tra virgolette "pensano"
@puffolottiaccident Guarda che emergerebbero cose interessantissime da un punto di vista sociologico... questa roba mi ricorda quando c'era chi aveva paura di ammalarsi a causa di un virus informatico!
Circa l'intelligenza artificiale, soprattutto anche grazie all'utilizzo di termini come "Rete Neurale", "Deep Learning" si tende a pensare che sia chi sa che magia misteriosa ed esoterica.
Basterebbe "studiare" un minimo le cose per capire come le cose stanno, ma ovviamente i concetti di "studiare" e "capire" per molti sono un Tabù!
Ti assicuro che anche in ambito accademico e scientifico se ti provi ad usare concetti attinenti all'AI con persone che non sono proprio cultori della materia trovi due classi di personaggi: gli iper-entusiasti che solo per il nome figo della tecnica che usi farebbero carte false... sia quelli che non ne vogliono sapere perché hanno "paura" senza ovviamente riuscire a motivarla.
Proprio qualche mese fa mi è capitato di dover usare un algoritmo basato sullo "statistical learning" affrontando insieme due persone delle due categorie che ti descrivevo... il primo supercontento... l'altro superdiffidente... ho dovuto ripresentare il tutto come quello che del resto era, una regressione multilineare... bhè, il primo si è sgonfiato, ed il secondo a quel punto era perfettamente in accordo. Solo per aver cambiato il nome!
E c'è cascato anche il tg2, oggi nell'edizione delle 13
I, for one, welcome our new toaster overlords !
Pure il giornale radio di Rai Radiodue
Luigi Muzii
In verità, il Post non è stato granché essendosi limitato a scopiazzare e tradurre (maluccio) articoli più approfonditi di riviste specializzate, oltre che il blog post sull'argomento di Facebook.

Tutto sta nel come si vogliono inquadrare le cose. Il Post, raro caso di testata giornalistica seria, ha presentato – come fa di regola – la sintesi di articoli di riviste specializzate, proposta in un linguaggio semplice, con razionalità e senza sensazionalismi. Questa nella mia lingua si chiama "divulgazione ben fatta".
"Google Deepmind ha sviluppato degli algoritmi per fornire alle IA primi abbozzi di immaginazione, capacità di creare nuovi concetti in base all'esperienza, e ragionamento".
Ma che braavi!!! E così hanno scoperto che cos'è e come funziona l'immaginazione, la creatività ed il ragionamento. Bello sapere che finalmente il cerviello non ha più segreti. Ora ci manca da scoprire esattamente la coscienza, ma per questi smanettoni del computer sarà una passeggiata.
@Mario, ho parlato di primi abbozzi, si tratta di primi promettenti passi in campi che finora sono stati estremamente ostici per l'intelligenza artificiale dei computer. Il deep Learning, le recurrent neural network, le convolutional neural network, le generative adversarial network sono innovazioni reali che sono in grado di dare contributi tangibili a un campo che per anni è sembrato senza speranza. Il tuo commento è la prova che articoli sensazionalistici possono produrre l'effetto opposto e nascondere alla gente quelli che sono i veri successi in questo campo: che sono concreti e importanti. La AI è il motore che porterà nei prossimi anni alla quarta rivoluzione industriale (la prima era mossa dal vapore, la seconda dell'elettricità, la terza dall'informatizzazione) sta' già succedendo e più passa il tempo più risulterà evidente
Comunque io ritengo che le macchine abbiano ormai un ruolo fondamentale nell' esistenza dell' uomo ed è un dato di fatto che l' uomo rischia sempre più di perderne il controllo
Ale, dell'elettricità "abbiamo perso il controllo"? Non mi pare. Dei frigoriferi? Non mi pare. Abbiamo mai rischiato di farlo? Non mi pare.

Qua non è successo niente.
Io ho "parlato" con un bot di Ali Express per un reclamo riguardo ad un articolo che avevo ordinato e mai ricevuto. Il bot stato molto gentile e mi h assicurato che si arebbe occupatoo lui di farmi avere indietro i miei soldi. Ci siamo alutati educatamente ma i miei 24 euro non li ho piu visti!
Ci sarà come dite la quarta rivoluzione industriale. Che porterà alla rivoluzione visto che ci lascerà a casa a faruncazzofinalmente. Ricordate il sabot. Quello che dico è che sono e rimmaranno delle macchine. Altro che teoria forte dell'intelligenza. La chiamerei teoria forte dell'intelligenza debole. Piuttosto, eheheh
Qualcuno ha mai giocato con TensorFlow, la libreria open source di Google di reti neurali?

Su aliexpress per riavere i soldi va aperta una disputa. Niente chiacchiere con nessun bottiglia.
Paolo Attivissimo ha commentato:
"Soltanto perché per logica non posso affermare che tutti gli articoli del Post sono corretti. So che lavora bene, ma non avendoli letti tutti (e anzi leggendone solo una piccola parte), non posso dire "come fa sempre"."

per chi ha letto straniero in terra straniera, attivissimo potrebbe diventare un testimone leale xD
"di che colore è quella casa?"
"da questo lato bianca"