Cerca nel blog

2018/06/15

Come si riconosce un video Deepfake? A occhio

Sì, è Nicolas Cage nei Predatori
dell’Arca Perduta
(deepfake).
La tecnologia di manipolazione deepfake, che consente di sostituire i volti nei video in maniera quasi completamente automatica, crea una certa inquietudine perché quando è usata bene consente di ottenere risultati estremamente credibili con un impegno di risorse tecniche molto modesto (basta un computer domestico).

L’idea che ci si possa trovare circondati da video falsi indistinguibili dagli originali ha ovviamente delle forti implicazioni in molti campi, dalla politica al giornalismo alla documentazione storica alle indagini giudiziarie. Ma la ricerca scientifica corre veloce anche nel settore dello smascheramento di questi falsi, proponendo tecniche di analisi e identificazione sempre più ingegnose.

Tre ricercatori della State University of New York hanno pubblicato una di queste tecniche nel paper In Ictu Oculi: Exposing AI Generated Fake Face Videos by Detecting Eye Blinking, che suggerisce di esaminare matematicamente il movimento delle palpebre nei video per capire se è naturale o no e quindi rivelare eventuali falsificazioni.

Le persone sbattono le palpebre in media circa 17 volte al minuto: questa cadenza aumenta durante una conversazione e diminuisce durante la lettura. Ma gli attuali software di generazione dei deepfake non tengono conto di questo fenomeno, per cui una cadenza errata, misurata da un apposito software, rivela la manipolazione.

Secondo i ricercatori, fra l’altro, migliorare i deepfake per includere la cadenza corretta non è facile, perché i dataset usati per “addestrare” questi programmi di solito non contengono immagini dei volti-bersaglio con gli occhi chiusi. I falsificatori dovranno quindi inventarsi un modo per aggiungere il movimento corretto delle palpebre. La gara fra falsificatori e smascheratori non conosce soste.

4 commenti:

Stefano Mancosu ha detto...

"La gara fra falsificatori e smascheratori non conosce soste": mi ricorda la sfida tra il presidente Barbicane e il capitano Nicholl...

Aristide ha detto...

A me ricorda la gara tra sistemi di protezione e cracker. Come è finita? Lo chiediamo alla cifratura asimmetrica. Come si traspone questo concetto (ed in particolare il suo epilogo) in campo adversarial AI?

Aristide ha detto...

Paolo, sarei davvero interessato a sapere cosa ne pensi, con riguardo al mio ultimo commento. Grazie

Thhh ha detto...

Interessante, io la frequenza del blinking lo uso come segno Nell diagnostica di alcune condizioni neurologiche (sia in eccesso che in difetto).
Chissà se è il caso dei loro falsi positivi :D