2022/02/03

Remini, l’app che falsifica i volti e genera mostri e imbarazzi

Le app che migliorano e correggono le fotografie sono molto belle e utili, ma se vengono usate senza le giuste attenzioni possono anche causare disastri e imbarazzi. Lo testimonia un curioso incidente che ha colpito pochi giorni fa Matteo Salvini, leader della Lega in Italia, quando ha pubblicato su Twitter una foto nella quale mostra un gruppo di persone del suo partito, ritratte con la mascherina sul volto dato che l’immagine è stata scattata al chiuso nei giorni scorsi. Ne ho già scritto qui a caldo, ma riassumo la vicenda per una riflessione aggiuntiva.

Ingrandendo la foto, molti internauti si sono accorti che le mascherine avevano delle anomalie stranissime: sembrava che si vedessero le bocche delle persone in trasparenza, attraverso le mascherine. È partita subito l’accusa di fotomontaggio, ipotizzando che le mascherine fossero state aggiunte con un programma di fotoritocco, e confesso di aver sospettato anch’io inizialmente una manipolazione di questo genere.

Ma c’era qualcosa che non quadrava: le bocche erano deformate e mostruose, incompatibili con le parti visibili dei volti. Nemmeno il più pasticcione dei fotoritoccatori avrebbe commesso un errore madornale del genere.

Matteo Salvini ha poi pubblicato un tweet nel quale ha dichiarato che le anomalie erano state causate da un imprecisato “filtro nitidezza” usato per migliorare la fotografia originale.

La giustificazione è avvalorata dal fatto che anche il ritratto stampato di Salvini che si vede sullo sfondo della foto ha subìto una deformazione bizzarra: al suo naso sono state infatti aggiunte quelle che sembrano essere due narici supplementari laterali.

Secondo gli esperti e gli utenti abituali di app per il miglioramento delle fotografie, il “filtro nitidezza” in questione è REMINI, dell’azienda italiana Bending Spoons, che ha oltre un milione e mezzo di scaricamenti su Google Play e ottime recensioni nell’App Store di Apple.

Questa app, come tante del suo genere, non si limita a correggere i colori o a rendere più nitidi i contorni con semplici operazioni matematiche sui dati, ma usa tecniche di intelligenza artificiale per ricostruire parti dell’immagine. E la ricostruzione, in questo caso, è arrivata addirittura a inventarsi bocche inesistenti e narici impossibili.

È insomma importantissimo fare molta attenzione all’uso di questi filtri molto avanzati, perché rischiano di creare dei falsi, introducendo dettagli che in realtà non esistono ed esponendo chi li usa all’accusa di pubblicare foto truccate. Soprattutto nel caso di personaggi pubblici, un uso errato di questi filtri può causare polemiche e perdite di credibilità molto gravi e potenzialmente irrimediabili.

Le conseguenze di un uso sconsiderato ed eccessivamente fiducioso di queste tecnologie di elaborazione delle immagini possono essere anche ben peggiori di un semplice imbarazzo mediatico come quello occorso a Salvini. 

Se queste tecniche di filtraggio venissero introdotte incautamente nei processi, per esempio, potrebbero ricostruire erroneamente il volto di una persona in una fotografia, documentarne apparentemente la presenza sul luogo del reato e quindi portare alla sua incriminazione. 

Qualcosa di simile è già accaduto con i sistemi di intelligenza artificiale applicati al riconoscimento facciale: il New York Times segnala il caso di un uomo, Nijeer Parks, che nel 2019 è stato accusato di furto e di tentato investimento di un poliziotto perché il software di riconoscimento facciale usato dalla polizia lo aveva “riconosciuto” in un’immagine presente sulla patente falsa esibita dal vero ladro e investitore, che si era poi dileguato. Il signor Parks si trovava in realtà a una cinquantina di chilometri di distanza dal luogo dei reati. È il terzo caso del suo genere.

L’accusa è stata poi annullata, ma non prima che il signor Parks venisse arrestato e incarcerato per dieci giorni senza cauzione e restasse a rischio di processo e pena detentiva per altri mesi, con tutti i disagi che questo comporta.

Fate insomma attenzione nell’usare questi filtri di cosiddetta “intelligenza artificiale”, perché sono molto meno intelligenti di quello che si può pensare. E come tante persone poco intelligenti, spesso quando non sanno come risolvere correttamente un problema si inventano una bugia, sperando che nessuno se ne accorga.

Nessun commento:

Posta un commento

Se vuoi commentare tramite Disqus (consigliato), vai alla versione per schermi grandi. I commenti immessi qui potrebbero non comparire su Disqus.

Pagine per dispositivi mobili