skip to main | skip to sidebar
21 commenti

Intelligenza artificiale sostituisce volti nei video, inganno quasi perfetto


La GIF animata un po’ troppo rivelatrice dell’attrice di Star Wars Daisy Ridley che vedete qui sopra è un falso: il volto della Ridley è stato applicato al corpo di un’altra persona e segue tutti i movimenti dell’originale. Niente di nuovo in sé, ma la differenza è che questo effetto non è stato prodotto da una squadra di artisti digitali in uno studio cinematografico specializzato: è stato prodotto amatorialmente da FakeApp, un programma di intelligenza artificiale su un computer domestico di media potenza.

Tutto quello che serve, oltre al video originale in cui sostituire il volto, è un numero molto elevato di immagini del volto da inserire, una scheda grafica Nvidia, e un po’ di pazienza: l’elaborazione richiede molte ore e spesso produce risultati disastrosi, per cui va ripetuta effettuando correzioni e regolazioni manuali. Ma i successi sono impressionanti.

Ovviamente esistono usi innocui (tipo inserire il proprio volto al posto di quello di un attore in un film celebre), ma c’è soprattutto la possibilità di creare video falsi imbarazzanti a scopo di ricatto, molestia o di produzione di notizie false estremamente credibili (immaginate il video di un discorso di un politico), o di creare video pornografici raffiguranti celebrità o qualunque altra persona di qualunque età.

È già nata su Reddit una sezione (attenzione: contiene materiale non adatto agli animi sensibili) di, come dire, appassionati, dedicata principalmente alla creazione di filmati di questo genere, spesso con risultati praticamente perfetti.

Un esempio della potenza di questa tecnologia alla portata di tutti è dato da questo rifacimento di una celebre scena di Rogue One, nella quale il volto della giovane Carrie Fisher è stato ricreato digitalmente con mezzi iperprofessionali ma con risultati discutibili. La versione generata dall’intelligenza artificiale su un computer domestico (sotto) è a bassa risoluzione, ma è a mio avviso meno innaturale e più fedele di quella generata dai megacomputer di Hollywood (sopra).



Chi non ha un occhio particolarmente allenato a riconoscere le piccole imperfezioni caratteristiche di questi video e non sa che esiste questa tecnologia potrebbe credere che siano reali, con tutte le conseguenze del caso. Prepariamoci a un futuro nel quale letteralmente non potremo credere ai nostri occhi.


Fonti: BoingBoing, Motherboard, The Register.
Invia un commento
I commenti non appaiono subito, devono essere tutti approvati manualmente da un moderatore a sua discrezione: è scomodo, ma è necessario per mantenere la qualità dei commenti e tenere a bada scocciatori, spammer, troll e stupidi.
Inviando un commento date il vostro consenso alla sua pubblicazione, qui e/o altrove.
Maggiori informazioni riguardanti regole e utilizzo dei commenti sono reperibili nella sezione apposita.
NOTA BENE. L'area sottostante per l'invio dei commenti non è contenuta in questa pagina ma è un iframe, cioè una finestra su una pagina di Blogger esterna a questo blog. Ciò significa che dovete assicurarvi che non venga bloccata da estensioni del vostro browser (tipo quelle che eliminano le pubblicità) e/o da altri programmi di protezione antimalware (tipo Kaspersky). Inoltre è necessario che sia permesso accettare i cookie da terze parti (informativa sulla privacy a riguardo).
Commenti
Commenti (21)
Effettivamente fa paura. Spero che di contro ci sia una "intelligenza" artificiale che aiuti a smascherare video fasulli.
AAAAnd, we're going back.

E' interessante pensare che, nonostante tutta la tecnologia, finiremo per tornare al XIX° secolo o prima, quando tutto questo non esisteva e la buona reputazione creava la credibilità.

Perché, potrai più credere ai video e alle fotografie (a meno che tu non abbia le competenze tecniche per svelare i falsi?)

Prima però dovremo imparare a non considerare vero tutto quello che vediamo. In un mondo che ha sfruttato a piene mani il fatto che siamo portati naturalemnte a considerare vero tutto quello che vediamo.

In fondo, siamo già all'inizio di questo percorso.
Veramente impressionante.Si tratta di un progresso tecnologico inarrestabile, sarebbe stupido pensare di impedirlo, ma di certo potrà avere conseguenze sociali dirompenti. Letteralmente, non potremo più credere a nulla di quanto vediamo, a meno che non salti fuori l'equivalente di un test Voight-Kampf per replicanti.
Devo essere onesto, il filmato con Carrie Fisher elaborato con IA "casareccia" è impressionante. Immagino cosa si possa fare con un budget più alto e con hardware e software migliori.
Impressionante ... e ancora più impressionante il paragone tra i due filmati di Carrie Fisher tenendo conto che il secondo è stato realizzato con hardware abbastanza alla portata di tutti
Penso possa essere interessante questa disquisizione di Cassandra su "Punto Informatico": http://punto-informatico.it/4408566/PI/Commenti/cassandra-crossing-vero-falso-guerra-cultura.aspx.

Citando Cassandra:
"L'Intelligence americana è preoccupata che nel prossimo futuro, grazie all'Intelligenza Artificiale, possa essere prodotto materiale informativo falsificato di qualità indistinguibile da quello vero, e in quantità talmente massiccia da poter essere usato per "corrompere" la conoscenza preesistente."

C'è anche un link al rapporto in pdf.
Grande Giove!
Questo, più "il photoshop dell'audio". E siamo "a cavallo".
Refuso: fedeledi
Non concordo riguardo la naturalezza e la fedeltà dei due video: se è vero per quanto riguarda la parte superiore del viso della Fisher (in particolare gli occhi), la parte inferiore hollywoodiana è invece a mio avviso superiore (sia per quanto riguarda la bocca, quanto per il mento).

Ciao

Carson
Carson,

refuso sistemato, grazie.
Foto e filmati su film torneranno ad avere un valore.

Mi chiedo come ci si difenderà: un paio di testimoni prezzolati e un video digitale ben realizzato con facvia e audio realizzati ad hoc. Come sarà possibile smascherarli? O non saranno più accettati come prove data la facilità di falsificazione?
Non ho capito, nel video di Carrie Fisher, quale sarebbe la parte rifatta con l'hardware scrauso, a me comunque sembra migliore quella alta, giusto sui toni di colore mi sembra più azzeccato sotto.
Ho letto una definizione molto bella di questi artefatti creati tramite intelligenza artificiale: deep fake. E comunque si preannunciano tempi duri per i debunker.
Potrebbe anche avvenire il contrario però: se questo sistema diventa assai popolare potrebbe diventare impossibile ricattare qualcuno in questi casi, visto che si può sempre sostenere che il video è contraffatto.

A meno che non si vedano pezzi di mobilio o altri elementi familiari naturalmente...
Buh, sta settimana ho speso + o meno tutto il mio tempo ad uccidere "punti verdi" a mano, adesso la gif che emula Daisy Ridley mi pare un boss smiley su un pezzo di cartone.

Il fatto che i denti sul lato sinistro del volto siano solidali col movimento del labbro superiore (Come capita a Mileena di Mortal Kombat) è la cosa che più salta all'occhio.

Avrei dovuto vederla a mente fresca per dare il giudizio di chi è colto di sorpresa invece che uno sprezzante commento mod. Del Grillo (Onofrio intendo, non Beppe.)

Per chi non lo sapesse, i punti verdi sono well, come spiegare a chi è nato nel mondo a 4294967296 colori... Provo a spiegare con un disegnino:
https://orig00.deviantart.net/479d/f/2018/027/f/9/greendots2_by_puffolotti4iji-dc1aohk.png

Ho menzionato i punti verdi perché penso che passerà ancora del tempo prima che esista un programma che possa farlo come dico io.
L'anno scorso avevo letto un paper su una tecnica di questo genere (arXiv:1704.06065v1) sviluppata per la registratura di immagini mediche tramite reti neurali. Avrei dovuto aspettarmi una rapida applicazione nel mondo del porno, è la regola numero uno di Internet...
Fa effettivamente paura. Il futuro si deve poter affrontare provenendone le storture. Speriamo, per l'umanità, che questo accada.
È una prospettiva decisamente inquietante,soprattutto perché, dalla descrizione, i "requisiti di sistema" per far funzionare questa applicazione più difficili da ottenere sono...quelli umani, cioè tempo da perdere e pazienza! Se immagino questo giocattolo nelle mani di uno di quei bastardi frustrati che sfogano il loro risentimento spandendo cattiveria in ogni angolo del web, e sembrano avere sempre un sacco di tempo da perdere, mi vengono i brividi...
Comunque, Puffolotti, starei attento a dichiarare ai quattro venti che uccidi punti verdi: se ti legge un amante dei punti verdi appartenente ad una associazione per la protezione dei punti verdi e la difesa del loto habitat o un vegano integralista, sei nei guai!! XD
@Mammiiiinaaa?!

https://attivissimo.blogspot.de/2018/01/app-di-fitness-rivela-attivita-militari.html

Porca paletta e porca mastella... Guarda che belli! Guarda quanti! E tutti sudaticci e pieni di muscoli!!

Aw...

Bisogna informare gli sviluppatori che è meglio non rispondere "I'm going to kill some green dots" a chi chiedesse loro: "che fai sabato sera?"
Toccherà tornare all'anti-femminista: "Vado avanti a Super Final Fantasy XXI Turbo Upper" o "Nella vasca da bagno col conte di Montecristo (o il capitano Ahab)" (o la versione femminile, in ottemperanza alle pari opportunità "mi lavo i capelli" o "Nella vasca da bagno con la figlia del corsaro nero (o Elizabeth Bennet) ")
Segnalo solo che la comunità Reddit citata nel post pare essere stata "bannata".