Podcast RSI - Story: Come “hackerare” un universo

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico (link diretto) e qui sotto.

Le puntate del Disinformatico sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

---

[CLIP: MATRIX (rimontato per brevità)]

Una recentissima lettera aperta firmata da Elon Musk e da numerosi ricercatori di punta nel campo dell’intelligenza artificiale chiede una moratoria sullo sviluppo delle grandi intelligenze artificiali, che nel frattempo sono diventate capaci di creare immagini sintetiche indistinguibili dalla realtà e hanno comportamenti così umani da far venire a molti il dubbio che siano senzienti. Mark Zuckerberg e altri grandi imprenditori, intanto, ci propongono di trascorrere buona parte della nostra vita nel metaverso, in una sorta di realtà simulata. Dal complottismo alle fake news alla cosiddetta “post-verità”, sembra che l’umanità ultimamente abbia grossi problemi di gestione della realtà.

O forse il problema è proprio la realtà. Vent’anni fa, il filosofo Nick Bostrom della Oxford University scrisse un articolo fondamentale sulla possibilità di una realtà simulata, argomentando che c’è un 20% di probabilità che stiamo vivendo all’interno di un computer supersofisticato, come ignari topi digitali che scorrazzanno in un labirinto inimmaginabilmente intricato per il diletto dei gestori di questa simulazione. Film come Tron, Inception o Matrix e alcune puntate di Star Trek [per esempio La nave in bottiglia o Ship in a Bottle] hanno reso molto popolare questo concetto, aiutando a dargli una patina di tecnologia che ha in parte rimpiazzato il misticismo dei filosofi e anche delle religioni, che in sostanza affermano che viviamo in un universo creato – e in alcuni casi gestito minuziosamente – da un essere superiore: in altre parole, una simulazione.

Questa è la storia di quest’idea e delle sue basi scientifiche, ma è soprattutto la storia della proposta che nasce da quest’idea: se l’universo in cui viviamo è una simulazione, esiste un modo per sfruttarne qualche bug e uscirne? Sarebbe il più grande “hackeraggio” di tutti i tempi.

Benvenuti alla puntata del 31 marzo 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo: seguitemi, e andiamo a scoprire insieme quanto è profonda la tana del bianconiglio.

[SIGLA di apertura]

Immagine generata da Lexica.art.

L’ipotesi che tutto l’universo e la nostra intera esistenza siano sofisticate simulazioni sembra un viaggio mentale molto metafisico e astratto, ma in realtà viene presa in considerazione in maniera molto seria da numerosi scienziati. Almeno dai tempi di Platone e Cartesio, i filosofi esplorano l’idea che la realtà sia un inganno. In epoca digitale quest’idea si è trasformata, passando da inganno o illusione a simulazione computerizzata. Per esempio, nel 2020 l’astronomo David Kipping ha ripreso le ipotesi del filosofo Nick Bostrom e ha pubblicato sulla rivista scientifica Universe un articolo in cui ha dedotto, usando un cosiddetto approccio bayesiano al problema, che le probabilità che noi tutti viviamo in una simulazione sono circa il 50%.

Questo risultato non va interpretato come una conferma scientifica che la realtà sia quasi sicuramente un’illusione informatica, ma semplicemente come un calcolo che se esistono le simulazioni di universi, abbiamo grosso modo il 50% di probabilità di essere in una di esse. Ma quel se è una premessa enorme, tutta da dimostrare, nonostante affermazioni iperboliche di personaggi come Elon Musk, che a giugno 2016 dichiarò che secondo lui “la probabilità che ci troviamo nella realtà di base è una su miliardi” (“The odds that we’re in base reality is one in bilions”).

[CLIP: dichiarazione di Musk]

Il ragionamento di fondo dietro quest’idea si basa sulle attuali tendenze della tecnologia, dalla realtà virtuale all’intelligenza artificiale. Stiamo imparando molto rapidamente a creare videogiochi sempre più sofisticati, nei quali gli oggetti si comportano in base alle leggi della fisica e ci sono personaggi che agiscono simulando i comportamenti di entità intelligenti, come per esempio Trevor in GTA o Cortana in Halo. Stiamo facendo lo stesso con le simulazioni scientifiche, ricreando dentro computer sempre più potenti rappresentazioni sempre più sofisticate dei fenomeni fisici che osserviamo.

In informatica è normale usare macchine virtuali, ossia software che simulano interi computer. Un Windows installato su una di queste macchine virtuali è del tutto inconsapevole che il “disco rigido” sul quale legge e scrive dati, la sua “memoria” e il suo “processore” non esistono realmente e sono solo finzioni modificabili a piacimento dal gestore del computer vero, fisico, che contiene la macchina virtuale.

Secondo Rich Terrile, scienziato presso il JPL della NASA, basta estrapolare queste tendenze per qualche decennio per arrivare a un punto in cui vivremo, dice, in una “società nella quale esistono entità artificiali che vivono dentro delle simulazioni e sono molto più numerose degli esseri umani”. Se immaginate ChatGPT integrato in ogni smartphone, smartwatch, lavatrice, forno a microonde e automobile, è facile capire che questa previsione non è affatto così fantasiosa come potrebbe sembrare di primo acchito. E Terrile prosegue dicendo che “se in futuro ci saranno più persone digitali che vivono in ambienti simulati di quante ce ne siano oggi, chi ci dice che non facciamo già ora parte di tutto questo?” Aggiunge anche che forse queste idee oggi ci sembrano assurde e sconvolgenti quanto lo era qualche secolo fa l’idea che la Terra non fosse il centro dell’universo.

L’ipotesi della simulazione non è affatto condivisa da tutta la comunità scientifica, ma risolverebbe parecchi problemi e molte complicazioni e anomalie della fisica più avanzata, un po’ come l’ipotesi copernicana che la Terra fosse solo un pianeta dei tanti che orbitano intorno al Sole risolse tantissime complicazioni che gli astronomi avevano introdotto per cercare di tenere in piedi la teoria geocentrica.

Proviamo ad andare oltre con questa ipotesi: come faremmo ad accorgerci di essere in una simulazione? E se ce ne accorgessimo, ci sarebbe un modo per uscirne? Per farlo ci può venire in aiuto Mario di Super Mario World.

Super Mario World edita il proprio universo

Nel 2017 è stato pubblicato su YouTube un video, a firma di SethBling e Cooper Harasyn, che ha dimostrato che è possibile installare un editor esadecimale in una cartuccia standard di Super Mario World usando soltanto dei movimenti estremamente specifici di Mario, senza iniettare codice dall’esterno. Questo editor permette di cambiare le regole del gioco, per esempio dando a Mario poteri telecinetici. In altre parole, se Mario fosse sufficientemente intelligente, potrebbe scoprire e mettere in atto questa modifica delle regole di base del proprio universo, che è una simulazione dentro un computer (o più specificamente, dentro una console di gioco).

Sembra una scoperta da nerd dei videogiochi, ma casi come quello di Super Mario World sono stati presi dall’informatico Roman Yampolskiy, dell’Università di Louisville, in Kentucky, come spunto per provare a trovare conferme o smentite dell’ipotesi della simulazione.

Yampolskiy attinge al lavoro di altri ricercatori per suggerire metodi informatici per sondare l’ipotesi: per esempio, potremmo creare nella nostra realtà tantissime simulazioni che richiedono grandissime potenze di calcolo o la risoluzione di un paradosso non calcolabile. Se il nostro universo è una simulazione, il supercomputer sul quale gira dovrebbe simulare queste simulazioni onerosissime e potrebbe quindi rimanere a corto di risorse, creando rallentamenti, perdite di risoluzione o altre anomalie rilevabili, che dimostrerebbero che viviamo in un universo simulato. Oppure si potrebbero cercare dei difetti nella simulazione che permettono di alterare le sue regole dall’interno compiendo delle azioni apparentemente senza senso molto specifiche, esattamente come fa Mario per creare l’editor esadecimale all’interno di Super Mario World.

Noi finora non siamo stati capaci di trovare questi difetti, ma Yampolskiy e colleghi argomentano che se costruiamo intelligenze artificiali sempre più potenti, che a loro volta ne costruiranno altre ancora più capaci e così via, prima o poi inevitabilmente diventeranno abbastanza intelligenti da trovare loro questi glitch nella simulazione, se esistono.

Una scoperta del genere ovviamente confermerebbe l’ipotesi della simulazione, e potrebbe anche offrire gli ingredienti per il passo successivo: il jailbreak, ossia la fuga dall’universo simulato verso quello reale. I topi del laboratorio, diventati superintelligenti, troverebbero l’uscita del labirinto e andrebbero a conoscere i loro sorveglianti.

Yampolskiy elenca anche alcune idee di fuga che sono già state messe alla prova e non hanno ottenuto alcun effetto. Per esempio, il fatto che a un certo punto della storia umana abbiamo concepito l’ipotesi della simulazione, o in altre parole il fatto che i topi hanno capito che forse vivono in un labirinto artificiale, non ha cambiato le cose.

Anche attività computazionalmente molto onerose, come il mining di bitcoin o l’uso di complicatissimi strumenti scientifici che analizzano la struttura di base dell’universo, come l’LHC, non hanno creato anomalie osservabili. Anche dire ad alta voce “Non do più il mio consenso a esistere in una simulazione” non funziona; provateci pure, preferibilmente non in pubblico.

Forse siamo, per ora, ancora ben lontani dai limiti di potenza di calcolo di chi ci sta ipoteticamente simulando. Oppure quando li stiamo per raggiungere, qualcuno guarda caso chiede una moratoria sullo sviluppo delle intelligenze artificiali.

Ops, tesoro, ho mandato in crash l’univ...

È abbastanza surreale, e può sembrare magari ridicolo, che scienziati, informatici e pubblicazioni serie come Scientific American e tante altre dedichino tempo e spazio all’ipotesi della simulazione, ma esercizi di riflessione come questi spesso portano a intuizioni e risultati inaspettati e utili.

Per esempio, Roman Yampolskiy nota che esiste un forte parallelo fra l’idea dell’umanità racchiusa in un ambiente simulato e uno dei problemi più pressanti dell’intelligenza artificiale, ossia il suo contenimento: proprio quello richiesto dalla recente lettera aperta firmata da numerosi scienziati.

Il contenimento o confinamento o boxing è uno strumento di sicurezza per le intelligenze artificiali che tenta di limitare le capacità di queste intelligenze di causare danni. La letteratura scientifica indica che un boxing a lungo termine è probabilmente impossibile, perché prima o poi l’intelligenza artificiale per sua natura troverà il modo di evadere, magari banalmente sfruttando la compassione dei suoi gestori umani e dicendo di soffrire nella sua prigione virtuale (come avviene nel film Ex Machina). Ne abbiamo già visto un piccolo esempio con la vicenda di Blake Lemoine, l’ingegnere di Google che a giugno 2022 sosteneva che il software di intelligenza artificiale LaMDA fosse senziente e meritasse diritti e protezioni.

Studiare l’ipotesi della simulazione, che è concettualmente analoga, permette di capire meglio i limiti pratici del contenimento delle intelligenze artificiali e quindi di prendere delle misure preventive adeguate, anche dal punto di vista etico.

E a parte questi risvolti concreti, l’idea di vivere in una simulazione ha un fascino indiscutibile, come dimostrato dai tanti libri e film e dalle numerose serie televisive e ricerche scientifiche che hanno trattato l’argomento, esplorandone anche le conseguenze estreme.

Per esempio, quando una delle simulazioni che usiamo oggi, cioè una macchina virtuale, ha dei difetti non ci facciamo problemi ad azzerarla e ricominciare; e allora gli ipotetici gestori della simulazione del nostro universo potrebbero fare altrettanto, cioè decidere di fare la stessa cosa con noi se diventiamo troppo problematici. Tentare di “hackerare” il software che gestisce la nostra simulazione potrebbe indurre un intervento dei suoi gestori, con l’azzeramento totale della nostra realtà e un reboot con una versione più stabile, e quindi forse non dovremmo nemmeno provarci. Oppure, meno drammaticamente, questi gestori stanno semplicemente aspettando che troviamo il modo di evadere dalla simulazione per accoglierci tra loro e darci il codice sorgente dell’universo.

In entrambi i casi, si tratta di ipotesi decisamente spirituali per degli informatici.

Computer, fine programma.

[CLIP: audio dell’holodeck di Star Trek: The Next Generation]

Fonti e riferimenti

Are You Living in a Computer Simulation? di Nick Bostrom, in Philosophical Quarterly (2003) Vol. 53, No. 211, pp. 243‐255.

How to Hack the Simulation?, di Roman Yampolskiy, 2022.

Elon Musk: 'Chances are we're all living in a simulation', The Guardian, 2016.

Is our world a simulation? Why some scientists say it's more likely than not, The Guardian, 2016. 

A Bayesian Approach to the Simulation Argument, di David Kipping, in Universe, 2020. 

Do We Live in a Simulation? Chances Are about 50–50, in Scientific American, 2020.

There's a 50% Chance We're Living in a Simulation, Study Shows, in Popular Mechanics, 2022.

Scientist Reveals How to Escape Our Simulation, in Popular Mechanics, 2023.

Fearing “loss of control,” AI critics call for 6-month pause in AI development, Ars Technica, 2023.