2023/12/15

Podcast RSI - Aitana Lopez e le influencer virtuali da “10.000 euro al mese”: ho provato a crearne una, eccola. Labirinto di illusioni

logo del Disinformatico

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate qui sul sito della RSI (si apre in una finestra/scheda separata) e lo potete scaricare qui.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, Google Podcasts, Spotify e feed RSS.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

---

[CLIP: Spezzoni rimontati da video di YouTuber e canali di notizie internazionali che parlano di Aitana Lopez: 1, 2, 3, 4]

Aitana Lopez è una modella spagnola dai caratteristici capelli rosa. Ha 231.000 follower su Instagram, dove posta foto curatissime e commentatissime, che mettono in mostra la sua bellezza, e altrove su Internet mostra a pagamento tutte le proprie grazie. Ultimamente i media le hanno dedicato molte attenzioni, titolando che “guadagna 10.000 dollari al mese" [Corriere della Sera; La StampaHWupgrade; Wired.it] grazie ai contratti pubblicitari, ma Aitana ha una particolarità: non esiste. È una influencer virtuale: le sue foto sono tutte sintetiche, generate dall’onnipresente intelligenza artificiale, pilotata da un’agenzia di moda di Barcellona.

Una delle immagini più note di Aitana Lopez. Credit: Rubén Cruz/The Clueless.

Se state pensando che 10.000 dollari al mese per delle foto siano una cifra perlomeno interessante e che però ci vogliano chissà quali tecnologie e competenze tecniche per creare una modella virtuale, metterla in posa e per farle indossare indumenti e prodotti da sponsorizzare, non è così. Lo so perché ci ho provato. Ho speso in tutto sei dollari, non ho dovuto acquistare macchinari particolari, e il risultato è sicuramente paragonabile a quello di Aitana Lopez in termini di aspetto, flessibilità di posa e vestiario, e soprattutto realismo fotografico: ne trovate qualche esempio su Disinformatico.info.

La modella virtuale che ho creato io si veste e mette in posa per imitare Aitana Lopez.

Questa è la storia di come ho creato una modella digitale, di come e perché la gente si entusiasma per delle immagini totalmente sintetiche, e del sorprendente sottobosco di persone e ditte che guadagnano dal boom degli aspiranti creatori di influencer virtuali, attratti dalla speranza di facili guadagni. Spoiler: i guadagni non sono affatto facili. Perlomeno non per i creatori.

Benvenuti alla puntata del 15 dicembre 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io, come al solito, sono Paolo Attivissimo.

[SIGLA di apertura]

Aitana non è la prima modella virtuale

L’idea di creare modelle virtuali non è nuova. Già nel 1999 debuttava Webbie Tookay, una modella generata e animata digitalmente, costata circa un milione di dollari e un anno di lavoro preparatorio e creata dall’animatore Steven Stahlberg per la celebre agenzia di modelle Elite Models.


Ne parlò persino, all’epoca, il compassato Wall Street Journal: nonostante il suo aspetto chiaramente sintetico, che visto oggi fa sorridere, e la camminata inconfondibilmente robotica, Webbie Tookay era una chiara anticipazione di un’idea che aveva senso economicamente da tutti i punti di vista: le modelle sintetiche “non invecchiano, non aumentano di peso e non fanno capricci”, per citare il Journal [“Won't Age, Gain Weight or Throw Tantrums”]. Non si stancano, non hanno mai le borse sotto gli occhi, non hanno partner discutibili, non fanno dichiarazioni imbarazzanti, non arrivano mai in ritardo agli appuntamenti di lavoro e azzerano le spese per voli e alberghi.


Nel 2016 è arrivata Lil Miquela [ne avevo scritto nel 2018], modella virtuale che ha quasi tre milioni di follower su Instagram e ha ottenuto contratti con Samsung, Calvin Klein e Prada, diventando il primo avatar digitale sotto contratto con un’agenzia di moda.


Miquela è decisamente più realistica di Webbie Tookay e nei suoi video interagisce con persone reali, comprese molte celebrità, ma c’è un trucco: il suo corpo è reale e solo il volto è creato digitalmente, sovrapponendolo a quello di una modella in carne e ossa.

Un video in cui la modella virtuale Lil Miquela “canta” e interagisce con persone.

Aitana Lopez, invece, è completamente sintetica, concepita nel 2022 da Rubén Cruz dell’agenzia di moda spagnola The Clueless. Non usa più un corpo di una persona reale, e non è neppure un modello digitale tradizionale, un rendering 3D da posizionare e animare come Webbie Tookay o come i Na’vi di Avatar, Spider-Man e tanti altri personaggi digitali ai quali ci ha abituato il cinema. Aitana è generata direttamente tramite software di intelligenza artificiale.

L’artista che la gestisce descrive a parole il suo aspetto, la posa e l’espressione che deve assumere, la sua acconciatura, il suo trucco, il vestiario che deve indossare, l’illuminazione della scena e l’ambientazione in cui deve collocarsi, e una quarantina di secondi dopo ottiene una serie di immagini praticamente indistinguibili da foto reali che corrispondono alla sua richiesta.

Diecimila dollari al mese per scrivere una serie di descrizioni e postare sui social network qualche foto sembrano soldi facili, e infatti ci stanno provando in molti. Ci ho provato anch’io per questo podcast, e in effetti generare queste immagini di persone virtuali è sorprendentemente facile e a buon mercato, e i follower e le richieste di collaborazione economica arrivano molto rapidamente.

Ma non fatevi troppe illusioni: la parte difficile è un’altra, e i vari tutorial sull’argomento fatti dagli YouTuber tendono a non parlarne.

Modelle facili, guadagni difficili

Prima di tutto va chiarito che quei diecimila dollari mensili raccontati dai media a proposito di Aitana Lopez non sono reali: Rubén Cruz, il suo creatore, ha dichiarato [Euronews] che la sua modella virtuale guadagna in media circa tremila euro al mese, e che diecimila sono solo il picco massimo; ma la cifra grossa è più sensazionale, e così i giornalisti hanno citato solo quella.

Comunque anche tremila euro al mese sono una cifra allettante, e Aitana Lopez non è l’unico caso di personaggio sintetico che fa incassare cifre mensili di tutto rispetto, soprattutto se l’offerta include immagini intime e piccanti, che sono vietate su Instagram ma accettabili su altre piattaforme. Prevengo subito un dubbio inevitabile: no, Onlyfans non accetta immagini fotorealistiche completamente sintetiche: almeno la faccia deve essere la vostra. Ho verificato e mi hanno bannato.

Se per caso a questo punto i vostri scrupoli morali all’idea di diffondere stereotipi di bellezza impossibili, inarrivabili e deprimenti insieme a luoghi comuni sessisti sono temporaneamente accantonati, perché quei soldi comprensibilmente sono una tentazione, e vi state chiedendo come si fa in concreto a generare immagini fotorealistiche di persone in pose specifiche e con indumenti specifici, fatte così bene da indurre aziende e follower a pagarle, chiarisco subito che praticamente tutti i generatori di immagini più famosi disponibili online non sono all’altezza del compito, perché producono volti umani dall’aspetto plasticoso e dallo sguardo vitreo, con mani malformate, e oltretutto vietano le immagini eccessivamente sessualizzate, perché c’è l’enorme problema delle foto sintetiche di minori e dei deepfake in cui il volto di una persona viene applicato perfettamente al corpo di un’altra in situazioni intime o imbarazzanti allo scopo di umiliare o molestare.

Anche i principali software scaricabili, come Stable Diffusion, hanno delle salvaguardie molto severe sui tipi di immagini generabili. Toglierle richiede notevole competenza informatica e in ogni caso usare software di questo genere richiede computer molto potenti e costosi, con schede grafiche dedicate, altrimenti generare un’immagine richiede decine di minuti. Se aspirate a diventare gestori di una influencer virtuale nella speranza di fare qualche soldo, insomma, non è questa la via da seguire.

Ci sono però alcuni siti e servizi online che hanno molti meno scrupoli etici e consentono di generare immagini anatomicamente corrette e con espressioni naturali: non li cito perché contengono, e permettono di generare, immagini decisamente discutibili sia in termini di sessualità che in termini di violenza, persecuzione e discriminazione. Quello che conta è che esistono, e sono sorprendentemente a buon mercato. Quello che ho usato io per generare la mia versione di influencer virtuale mi è costato in tutto sei dollari.

Con questa cifra ho potuto generare centinaia di immagini di prova intanto che imparavo l’oscuro linguaggio dei prompt, ossia delle descrizioni estremamente precise delle immagini desiderate, che vanno fatte in una sorta di inglese telegrafico con una sintassi tutta sua e per nulla intuitiva.

Nel giro di una settimana sono passato da rigide bambole di porcellana, la cui anatomia da incubo avrebbe fatto la gioia di David Cronenberg...


Due esempi di immagini generate da DALL-E incluso nella versione a pagamento di ChatGPT di fine novembre 2023.



Qualche tentativo successivo, meno plasticoso ma comunque anatomicamente discutibile.

... a immagini sostanzialmente indistinguibili da foto reali, con volti espressivi, pelle ricca di dettagli come peluria, pori, nei, piccole rughe e sottili variazioni di colore.

[Le quattro foto seguenti sono esattamente come le ha generate il software, senza alcun ritocco da parte mia a parte un ritaglio di inquadratura e l’eliminazione di un piccolo artefatto digitale su un avambraccio]

Un primo piano della modella virtuale che ho creato per questo articolo e podcast. Notate l’espressione vivace, le piccole imperfezioni della pelle, i nei e l’accenno di rasatura sotto le ascelle.
Cambio di vestiario e ambientazione per la mia modella virtuale.

Cose che mancano, va detto, anche nelle foto di persone reali mostrate dalle riviste di moda e dai social network, che ci hanno assuefatto a un aspetto profondamente artificiale del corpo umano.

Jennifer Lopez in una recente campagna pubblicitaria. Notate la pelle assolutamente perfetta e priva di qualunque dettaglio.

Ho anche scoperto che il problema delle mani, che i generatori di immagini tramite intelligenza artificiale faticano a creare realisticamente, si risolve in un modo molto banale: quelle venute deformi vengono semplicemente escluse dall’inquadratura finale pubblicata. Fateci caso: è quello che succede anche con le immagini di Aitana Lopez.

Altre immagini di Aitana Lopez in cui le mani vengono escluse strategicamente dalle inquadrature.

Fra l’altro, questo è un buon metodo per riconoscere, almeno per ora, le immagini sintetiche: se le dita sono guarda caso appena fuori dall’inquadratura, è probabile che la foto sia generata. Guardate anche i nei: anche se oggi le intelligenze artificiali sono in grado di generare immagini multiple dello stesso volto, non riescono ancora a piazzare i nei sempre negli stessi punti del corpo. E il vestiario di queste modelle sintetiche, specialmente quello intimo, ha spesso delle asimmetrie innaturali.

Ma se è possibile accorgersi facilmente che si tratta di persone inesistenti, perché la gente segue le influencer virtuali e addirittura paga per vederle?

Cecità da allupamento

La risposta è che la maggior parte delle persone, quando guarda le foto di questi personaggi sintetici, non vede avvisi che dicono che si tratta di immagini sintetiche, usa lo schermo piccolo del telefonino, che nasconde moltissimo questi dettagli rivelatori, e comunque è talmente distratta dall’aspetto fisico provocante di quello che sta guardando che, per dirla educatamente, la razionalità passa del tutto in secondo piano [avete notato, per esempio, i bitorzoli sulle clavicole della foto notturna della mia modella sintetica? Appunto]. Nessuno guarda le foto virtuali delle mutandine di pizzo virtuale indossate dalla formosissima modella virtuale e si accorge che il ricamo virtuale è asimmetrico.

La biancheria intima di Aitana Lopez esibisce asimmetrie vistose.

E infatti la mia influencer sintetica sperimentale ha fatto subito colpo. Sono arrivati presto i primi follower e i primi like, sia su Instagram sia sull’altra piattaforma che ho usato, Fanvue [la stessa usata da Aitana Lopez, dove non ci sono restrizioni di nudo e ho usato l’intelligenza artificiale per aiutarmi a generare anche le descrizioni delle foto]. Un ragazzo, in una lunga chat [su Instagram], ha detto che voleva portarla fuori e farle visitare la sua città in Scandinavia. È stato gentile e molto sincero, e mi è spiaciuto non potergli dire che stava chattando con me e non con la sorridente ventiseienne che aveva ammirato. Solo una persona ha avuto qualche dubbio sulla realtà delle immagini; le altre hanno creduto tutte che si trattasse di foto reali.

Nel giro delle prime ventiquattro ore sono arrivati anche i primi contatti di lavoro, e persino i primi soldi. Ma è qui che è venuto a galla l’aspetto nascosto di questa recente foga di creare influencer virtuali: i contatti di lavoro erano proposte di pagare per farsi conoscere, per avere più follower, o per entrare in discutibili giri di marketing multilivello di bigiotteria, e quei primi soldi arrivati, ben cinque dollari, sono stati probabilmente versati – virtualmente, come tutto il resto – dalla piattaforma stessa per incoraggiarmi a pubblicare contenuti. Dopo non è arrivato più nulla. In pratica, finora ho chiuso più o meno in pareggio, ma di tremila o diecimila dollari al mese proprio non se ne parla. 

Aitana, invece, incassa perché i suoi creatori hanno saputo farla promuovere in maniera virale dai media; era una novità e le sue immagini erano giornalisticamente accattivanti. Così tutti ne hanno parlato, ed è questo l’ingrediente del successo di un’influencer virtuale che i tanti aspiranti del settore difficilmente riusciranno a procurarsi.

Una delle “offerte di collaborazione” ricevute su Instagram dalla mia modella virtuale.

Intorno alla speranza di facili guadagni, insomma, si è creata un’industria di servizi che monetizza questa speranza, offrendo tutorial su YouTube che incassano soldi grazie alle visualizzazioni pubblicitarie e agli sponsor, generatori di immagini specificamente orientati al vestiario o ad alcune parti anatomiche facilmente immaginabili, modelle e modelli virtuali chiavi in mano, voci sintetiche, servizi di sostituzione automatica dei volti e della voce in tempo reale per far credere a chi paga di stare davvero in videochiamata personale con il modello o la modella, chat automatizzate con i follower per spingerli ad abbonarsi e a spendere soldi, tutto nell’illusione di aver fatto colpo su una bella ragazza o su un bel ragazzo che in realtà nemmeno esiste. E ci sono naturalmente anche i follower automatizzati, che si comprano per dare l’impressione di essere popolari e quindi piazzarsi bene tra i profili consigliati dagli algoritmi dei social network.

Una delle tante offerte di servizi per creare influencer virtuali chiavi in mano.

È quindi importante rendersi conto che a questo punto non possiamo più credere a nulla di quello che vediamo su uno schermo, né in foto né in video, se non proviene da una fonte più che attendibile. Grazie all’uso distorto dell’intelligenza artificiale abbinata alla furbizia naturale, Internet si sta trasformando rapidamente in un universo popolato da persone sintetiche che dialogano con altre persone sintetiche a proposito di immagini false di bellezze che non esistono: Siri che chatta con Alexa e ChatGPT a proposito di Aitana Lopez.

In altre parole, per parafrasare Mark Twain, quando c’è una corsa all’oro, gli unici che guadagnano sicuramente sono i venditori di pale e picconi.


Fonti aggiuntive: Business Insider, Wishu.io, Medium.com.

Nessun commento:

Posta un commento

Se vuoi commentare tramite Disqus (consigliato), vai alla versione per schermi grandi. I commenti immessi qui potrebbero non comparire su Disqus.

Pagine per dispositivi mobili