Cerca nel blog

2017/08/01

Antibufala mini: “robot di Facebook” che parlano fra loro una lingua sconosciuta

Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi piace, potete farne una anche voi per incoraggiarmi a scrivere ancora. Ultimo aggiornamento: 2017/08/02 1:05.

No, non c’è nessuna “paura nella Silicon Valley”, come scrive Il Messaggero (copia su Archive.is) titolando “Due robot iniziano a parlare fra loro in una lingua sconosciuta: sospeso l'esperimento di Facebook”. Huffington Post, invece, titola “Facebook sospende il test per l'Intelligenza Artificiale: "Due bot hanno inventato un proprio linguaggio, incomprensibile all'uomo"” (copia su Archive.is).

La realtà, come spiega divertita la BBC invece di fare terrorismo luddista, è che la notizia, pubblicata inizialmente da Facebook, risale a giugno scorso, quando era passata inosservata (a parte qualche commento di riviste scientifiche divulgative): due chatbot di Facebook avevano dialogato tra loro in modo curioso. Tutto qui.

Ma adesso la storia è stata ripresa dai tabloid britannici (Mirror e dal Sun, per esempio, che mi rifiuto di linkare) con toni catastrofici, da insurrezione robotica imminente, come se domattina dovessimo temere l’attacco dei tostapane che hanno preso coscienza della propria condizione sociale. E guarda caso la notizia viene pubblicata solo ora dai media italofoni. Sarà un caso? Noi crediamo di no, direbbe qualcuno.

Non c’è nessuna intelligenza artificiale ostile che trama contro l’umanità in lingue segrete e non c’è stato nessun panico: semplicemente l’esperimento di intelligenza artificiale (due programmi che dialogavano tra loro, non due robot) “è stato chiuso perché faceva cose che al team di ricercatori non interessavano -- non perché i ricercatori pensavano di essersi imbattuti in un rischio per l’esistenza dell’umanità.”

Ancora una volta e con sentimento: non perdete tempo a leggere notizie tecniche o scientifiche sui giornali generalisti. Con pochissime eccezioni (per esempio Il Post), chi le scrive non capisce un’acca della materia e per di più copia dai peggiori giornali britannici invece che dalle pubblicazioni divulgative competenti. Procuratevi una rivista tecnica e leggetela: se non potete, date per scontato che quello che leggete sui giornali generalisti è una bufala.

34 commenti:

rico ha detto...

Ho chiesto a Google di assumermi perchè parlo il Marchigiano stretto, con elementi Klingon.
Non mi hanno preso, mannaggia al Q'Plà.

EpSiLoN74 ha detto...

Grazie ad articoli come questi non mi meraviglierebbe che sbucasse fuori all'improvviso un comitato Anti-AI.

Psk ha detto...

Intelligenza artificiale ... stupidità naturale.

Tra l'uomo e la macchina uno solo dovrebbe essere l'essere intelligente, e dovrebbe essere l'uomo, ma in questi casi è una battaglia persa in partenza.

luca ha detto...

Mi pare si trattasse di un baco, i bot non erano stati forzati a parlare in inglese.

enrico ha detto...

voglio poter votare Data alle prossime elezioni!

puffolottiaccident ha detto...

@EpSiLoN74

Mi vien voglia di fondarlo io stesso per farmi due risate.

Arcturus ha detto...

L'articolo è ottimo, solo un dettaglio:
perchè dici "in questo caso, il Post"? C'è bisogno di specificare "In questo caso"?. Hai una visione così riduttiva di una testata giornalistica che davvero si differenzia dalle altre sistematicamente e non in singoli casi? Consiglio: Fossi in te, per rendere giustizia a una delle rarissime testate che fanno debunking in modo serio, toglierei la precisazione "in questo caso", e scriverei "come fa sempre in questi casi Il Post".

Andrea Mattioli ha detto...

Penso che l'articolo migliore in italiano sia quello di Riccardo Oldani sul sito di Le Scienze lescienze.blogautore.espresso.repubblica.it/2017/06/23/quando-lia-si-inventa-una-lingua-tutta-sua/

Lorenzo Poderi ha detto...

Ciao Paolo, ma tu come la vedi? Intendo l'AI? Hai letto dello scambio di battute tra Musk e Zuckerberg a riguardo? Tra i commenti al tweet avevo trovato questo articolone a favore delle tesi di Musk. Ho tentato di leggerlo ma è lunghissimo e soprattutto con l'inglese un po' mi sono perso. Non sarebbe male un bel post a riguardo. Ecco il link: https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

Kobbe ha detto...

L'articolo, se non erro, è stato ripreso anche da Punto Informatico:

http://punto-informatico.it/4396850/PI/News/facebook-stop-ai-timore-skynet.aspx


Unknown ha detto...

@Arcturus,
sottoscrivo. L'ho notato anch'io, e ho pensato la stessa cosa...

Paolo Attivissimo ha detto...

Arcturus,

perchè dici "in questo caso, il Post"?

Soltanto perché per logica non posso affermare che tutti gli articoli del Post sono corretti. So che lavora bene, ma non avendoli letti tutti (e anzi leggendone solo una piccola parte), non posso dire "come fa sempre".

Paolo Attivissimo ha detto...

Arcturus,

rileggendomi capisco l'ambiguità. Ho riformulato, grazie.

CMT ha detto...

Tra l'altro, a quanto ho potuto leggere dall'articolo, la famosa "lingua" era inglese in modalità balbuziente semianalfabeta...

Il Lupo della Luna ha detto...

Sapendo cosa stavano facendo i chatbot non mi stupisco di cosa si dicevano.

Jacopo Prendin ha detto...

@Lorenzo Poderi
L'ho letto pure io quell'articolo e avrei davvero piacere di parlare con qualcuno che studia le reti neurali e l'intelligenza artificiale. L'argomento è avvincente, ma ormai non so davvero più dove cercare informazioni serie

Il Lupo della Luna ha detto...

@andrea interessante l'articolo di Oldani e anche molto chiaro. I commenti però sembrano scritti dai due chatbot, tra filippiche sulla "meravigliosa lingua italiana", quando i due cosi parlavano in inglese, riferimenti a Donald Trump, consigli di leggere libri di Rodotà completamente non correlati...

Sicuri che la preoccupazione non sia che i chatbot diventino come noi? 😎

Luigi Muzii ha detto...

In verità, il Post non è stato granché essendosi limitato a scopiazzare e tradurre (maluccio) articoli più approfonditi di riviste specializzate, oltre che il blog post sull'argomento di Facebook.

Umberto Volante ha detto...

Io vorrei un IA (con le opportune routine morali) fare proposte di gestione per lo stato che poi i nostri bananoni di politici dovrebbero approvare / respingere (e tutto pubblicato).

Altrochè paura di due programmi che parlano tra di loro.

rigel ha detto...

Articoli sensazionalistici come questi hanno anche un'altro effetto: nascondono quello che è a tutti gli effetti un momento magico per la ricerca sulla intelligenza artificiale. Stiamo vivendo davvero un rinascimento in questo campo. Io farei un parallelo con gli articoli sulle fantomatiche costruzioni marziane su marte e le scoperte reali che stanno facendo i rover: non c'è bisogno di sensazionalizzare qualcosa che è già sensazionale. Tornando alla IA:

Quest'anno c'è stato un proliferare di articoli su studi di IA in ambienti simulati. C'è ad esempio uno studio di Openai (azienda finanziata da Musk) in cui un gruppo di IA il cui obiettivo è fare un gioco il cui punteggio era massimo se collaboravano tra loro ha sviluppato una sorta di linguaggio: in pratica si dicevano cose del tipo "occhio che il tuo traguardo è in alto a destra" "attenzione seguimi che il tuo bersaglio è vicino al mio"...

https://blog.openai.com/learning-to-communicate/

In altri casi abbiamo IA che imparano a muovere dei manichini tridimensionali partendo da movimenti casuali fino ad arrivare a camminare, alzarsi, correre e saltare senza che nessuno le programmasse a parte darle un premio se raggiungevano il traguardo nel tempo più breve.

https://deepmind.com/blog/producing-...-environments/

Google Deepmind ha sviluppato degli algoritmi per fornire alle IA primi abbozzi di immaginazione, capacità di creare nuovi concetti in base all'esperienza, e ragionamento:

https://deepmind.com/blog/agents-imagine-and-plan/

https://deepmind.com/blog/imagine-cr...familiar-ones/

https://deepmind.com/blog/neural-app...nal-reasoning/

Gicasix ha detto...

Nonostante le doverose e corrette precisazioni dell'articolo resta curioso il fatto che spesso negli ultimi anni su sistemi informatici sperimentali che vengono definiti "quantistici", le virgolette sono d'obbligo, si tratta di sistemi in grado di compiere più di una operazione simultaneamente e non in modo squenziale, emulando, in questo, il comportamento di un cervello biologico, ebbene questi sistemi dopo poco tempo dalla loro attivazione eseguono calcoli per proprio conto, occupando gran parte delle loro risorse che non risultano più disponibili per i propri utilizzatori, in altre parole, ancora tra virgolette "pensano"

fmcard ha detto...

@puffolottiaccident Guarda che emergerebbero cose interessantissime da un punto di vista sociologico... questa roba mi ricorda quando c'era chi aveva paura di ammalarsi a causa di un virus informatico!
Circa l'intelligenza artificiale, soprattutto anche grazie all'utilizzo di termini come "Rete Neurale", "Deep Learning" si tende a pensare che sia chi sa che magia misteriosa ed esoterica.
Basterebbe "studiare" un minimo le cose per capire come le cose stanno, ma ovviamente i concetti di "studiare" e "capire" per molti sono un Tabù!
Ti assicuro che anche in ambito accademico e scientifico se ti provi ad usare concetti attinenti all'AI con persone che non sono proprio cultori della materia trovi due classi di personaggi: gli iper-entusiasti che solo per il nome figo della tecnica che usi farebbero carte false... sia quelli che non ne vogliono sapere perché hanno "paura" senza ovviamente riuscire a motivarla.
Proprio qualche mese fa mi è capitato di dover usare un algoritmo basato sullo "statistical learning" affrontando insieme due persone delle due categorie che ti descrivevo... il primo supercontento... l'altro superdiffidente... ho dovuto ripresentare il tutto come quello che del resto era, una regressione multilineare... bhè, il primo si è sgonfiato, ed il secondo a quel punto era perfettamente in accordo. Solo per aver cambiato il nome!

Guforso ha detto...

E c'è cascato anche il tg2, oggi nell'edizione delle 13

Riobaldo ha detto...

I, for one, welcome our new toaster overlords !

Il Lupo della Luna ha detto...

Pure il giornale radio di Rai Radiodue

Arcturus ha detto...

Luigi Muzii
In verità, il Post non è stato granché essendosi limitato a scopiazzare e tradurre (maluccio) articoli più approfonditi di riviste specializzate, oltre che il blog post sull'argomento di Facebook.

Tutto sta nel come si vogliono inquadrare le cose. Il Post, raro caso di testata giornalistica seria, ha presentato – come fa di regola – la sintesi di articoli di riviste specializzate, proposta in un linguaggio semplice, con razionalità e senza sensazionalismi. Questa nella mia lingua si chiama "divulgazione ben fatta".

Mario ha detto...

"Google Deepmind ha sviluppato degli algoritmi per fornire alle IA primi abbozzi di immaginazione, capacità di creare nuovi concetti in base all'esperienza, e ragionamento".
Ma che braavi!!! E così hanno scoperto che cos'è e come funziona l'immaginazione, la creatività ed il ragionamento. Bello sapere che finalmente il cerviello non ha più segreti. Ora ci manca da scoprire esattamente la coscienza, ma per questi smanettoni del computer sarà una passeggiata.

rigel ha detto...

@Mario, ho parlato di primi abbozzi, si tratta di primi promettenti passi in campi che finora sono stati estremamente ostici per l'intelligenza artificiale dei computer. Il deep Learning, le recurrent neural network, le convolutional neural network, le generative adversarial network sono innovazioni reali che sono in grado di dare contributi tangibili a un campo che per anni è sembrato senza speranza. Il tuo commento è la prova che articoli sensazionalistici possono produrre l'effetto opposto e nascondere alla gente quelli che sono i veri successi in questo campo: che sono concreti e importanti. La AI è il motore che porterà nei prossimi anni alla quarta rivoluzione industriale (la prima era mossa dal vapore, la seconda dell'elettricità, la terza dall'informatizzazione) sta' già succedendo e più passa il tempo più risulterà evidente

Ale ha detto...

Comunque io ritengo che le macchine abbiano ormai un ruolo fondamentale nell' esistenza dell' uomo ed è un dato di fatto che l' uomo rischia sempre più di perderne il controllo

Il Lupo della Luna ha detto...

Ale, dell'elettricità "abbiamo perso il controllo"? Non mi pare. Dei frigoriferi? Non mi pare. Abbiamo mai rischiato di farlo? Non mi pare.

Qua non è successo niente.

ijk ha detto...

Io ho "parlato" con un bot di Ali Express per un reclamo riguardo ad un articolo che avevo ordinato e mai ricevuto. Il bot stato molto gentile e mi h assicurato che si arebbe occupatoo lui di farmi avere indietro i miei soldi. Ci siamo alutati educatamente ma i miei 24 euro non li ho piu visti!

Mario ha detto...

Ci sarà come dite la quarta rivoluzione industriale. Che porterà alla rivoluzione visto che ci lascerà a casa a faruncazzofinalmente. Ricordate il sabot. Quello che dico è che sono e rimmaranno delle macchine. Altro che teoria forte dell'intelligenza. La chiamerei teoria forte dell'intelligenza debole. Piuttosto, eheheh

Scatola Grande ha detto...

Qualcuno ha mai giocato con TensorFlow, la libreria open source di Google di reti neurali?

Su aliexpress per riavere i soldi va aperta una disputa. Niente chiacchiere con nessun bottiglia.

roberto mangherini ha detto...

Paolo Attivissimo ha commentato:
"Soltanto perché per logica non posso affermare che tutti gli articoli del Post sono corretti. So che lavora bene, ma non avendoli letti tutti (e anzi leggendone solo una piccola parte), non posso dire "come fa sempre"."

per chi ha letto straniero in terra straniera, attivissimo potrebbe diventare un testimone leale xD
"di che colore è quella casa?"
"da questo lato bianca"