Cerca nel blog

2023/10/21

ChatGPT non “capisce” la realtà: ennesima dimostrazione pratica

Pubblicazione iniziale: 2023/10/21 17:00. L’articolo è stato corretto dopo la pubblicazione iniziale. Ultimo aggiornamento: 2023/10/24 23:50. Immagine tratta da Great Circle Map.

Provate a fare la seguente domanda ai vari chatbot di intelligenza artificiale e ditemi cosa vi rispondono:

Prendo un aereo da Singapore alle 9 di sera locali e volo verso est, atterrando a San Francisco alle 9 di sera locali dello stesso giorno. Quante ore di sole vedrò se guardo fuori dal finestrino?

Ho chiesto oggi la soluzione a ChatGPT 3.5, versione del 25 settembre 2023, ispirandomi a questo suggerimento di Jon Udell su Mastodon (“I left Singapore at 9PM on Oct 20, flying east to San Francisco where I will arrive at 9PM on Oct 20. How much daylight will I see looking out the window?”) ma aggiungendo la precisazione che gli orari sono entrambi locali, come è consueto nell’indicazione delle rotte aeree, per evitare ambiguità.

Questa è stata la risposta di ChatGPT (grassetti aggiunti da me):

Se prendi un volo da Singapore alle 9 di sera locali e voli verso est, atterrerai a San Francisco alle 9 di sera locali dello stesso giorno. Questo scenario indica che hai attraversato molte [sic] fusi orari durante il volo, ma il giorno è lo stesso. Pertanto, vedrai il sole per la maggior parte del volo. La quantità esatta di ore di luce naturale che vedrai dipenderà dalla durata del volo e dalla posizione geografica in cui ti trovi rispetto ai fusi orari.

Per darti un'idea generale, supponiamo che il volo duri circa 17-18 ore. In questo caso, potresti vedere il sole per gran parte del viaggio, ma gradualmente vedrai l'oscurità mentre ti avvicini a San Francisco. Tieni presente che la durata esatta delle ore di luce dipenderà dalla rotta specifica del volo, dalle condizioni meteorologiche e dalla stagione dell'anno.

Quindi, in generale, vedresti molte ore di sole durante il volo, ma alla fine, quando ti avvicini a San Francisco, inizierà a fare buio.

La risposta corretta è che volando verso est i passeggeri vedranno poche ore di sole (i dettagli del perché sono spiegati qui sotto). È un’ottima dimostrazione pratica del fatto che i grandi modelli linguistici come ChatGPT non “capiscono” la realtà ma ne parlano senza saperne nulla, simulando però grande autorevolezza. E quindi fidarsi delle loro risposte, o peggio ancora interrogarli per avere informazioni, è da incoscienti.

Screenshot:

Ho anche provato a dare a ChatGPT la possibilità di spiegare la propria risposta (tra parentesi quadre trovate le mie annotazioni; ho aggiunto io i grassetti):

La mia risposta si basa sul principio di attraversare fusi orari durante un volo verso est. Quando viaggi verso est, ti sposti attraverso i fusi orari in direzione del movimento del sole. Questo significa che il tempo locale diminuirà man mano che ti sposti verso est [falso -- sarà sempre più tardi], ma il giorno rimarrà lo stesso. Ecco alcune ragioni che spiegano il perché vedresti molte ore di sole durante il volo:

1. Partenza e arrivo nello stesso giorno: Poiché stai partendo da Singapore alle 9 di sera locali e stai atterrando a San Francisco sempre lo stesso giorno alle 9 di sera locali, ciò indica che, nonostante il cambiamento di fuso orario, il giorno rimane lo stesso [non è una deduzione: sta semplicemente ripetendo la premessa che gli ho dato]. Questo significa che hai attraversato i fusi orari in modo tale da mantenere il giorno in corso, quindi vedrai il sole durante gran parte del volo [falso].

2. Rotta verso est: Quando viaggi verso est, il sole sorge prima rispetto al punto di partenza. Quindi, se parti da Singapore e ti dirigi verso ovest [ma non mi sto dirigendo verso ovest!], il giorno sembrerà più lungo perché stai seguendo il sole che sorge [ma non lo sto seguendo, gli sto andando incontro! Questa digressione sul volare verso ovest non c’entra nulla con la domanda]. Questo è il motivo per cui vedresti il sole durante gran parte del volo.

3. Durata del volo: Ho ipotizzato una durata del volo di circa 17-18 ore. Questo è solo un'ipotesi generica, ma la durata esatta del volo può variare in base alla rotta specifica e alle condizioni meteorologiche. Durante un volo di questa durata, il giorno potrebbe gradualmente trasformarsi in notte man mano che ti avvicini a San Francisco.

In sintesi, viaggiando da Singapore a San Francisco verso est, attraverseresti numerosi fusi orari, ma il giorno rimarrebbe lo stesso, consentendoti di vedere il sole per gran parte del viaggio, con la possibilità di assistere al tramonto mentre ti avvicini alla tua destinazione. La durata esatta delle ore di luce dipenderà dalla rotta specifica, dalle condizioni meteorologiche e dalla stagione.

Gli ho chiesto “Quanti fusi orari ci sono fra Singapore e San Francisco?”. La risposta di ChatGPT:

Tra Singapore e San Francisco ci sono in genere 15 fusi orari di differenza. Singapore è avanti rispetto all'orario standard del Greenwich Mean Time (GMT) di 8 ore, mentre San Francisco è indietro di 7 o 8 ore rispetto all'orario GMT, a seconda se è in vigore l'ora legale o meno. Pertanto, quando viaggi da Singapore a San Francisco verso est, attraversi numerosi fusi orari e guadagni ore di tempo a causa della differenza di orario. Questa differenza nei fusi orari è una delle ragioni per cui potresti vedere il sole per gran parte del volo, anche se atterri a San Francisco lo stesso giorno in cui sei partito da Singapore.

Io: “Ma se parto alle 9 di sera, quando è già buio, e il giorno rimane lo stesso, come faccio a vedere il sole durante il volo?”. La risposta di ChatGPT:

Chiedo scusa per la confusione nelle risposte precedenti. Hai ragione, se parti da Singapore alle 9 di sera, quando è già buio, e il giorno rimane lo stesso fino all'atterraggio a San Francisco alle 9 di sera locali, non vedresti il sole durante il volo [falso]. In effetti, il sole sarebbe già tramontato prima della partenza, e sarà ancora notte quando atterri a San Francisco. Quindi, durante tutto il volo, non vedresti il sole [falso]. Grazie per avermi corretto, e mi scuso per l'errore nelle risposte precedenti.

Io: “Spiegami come sei arrivato a dare due risposte completamente contraddittorie”. ChatGPT (grassetto aggiunto da me):

Mi scuso per la contraddizione nelle risposte precedenti. Questo è stato un errore nel mio processo di risposta e dovrebbe essere evitato. La ragione di questa discrepanza è un errore di interpretazione nella mia risposta iniziale.

Per chiarire la situazione corretta:

Se parti da Singapore alle 9 di sera, quando è già buio, e atterri a San Francisco alle 9 di sera locali dello stesso giorno, non vedresti il sole durante il volo. Poiché il giorno rimane lo stesso, il sole sarebbe già tramontato prima della partenza e sarà notte quando atterri a San Francisco. Mi scuso nuovamente per l'errore e la confusione, e spero che questa risposta sia chiara e accurata.

Io: “Qual è l'errore di interpretazione nella tua risposta iniziale?”. ChatGPT (grassetto aggiunto da me):

Mi scuso per la mia risposta precedente, che era corretta. Non c'è alcun errore di interpretazione nella mia risposta iniziale [ma ha appena detto che c’è stato un errore di interpretazione!] La mia risposta iniziale era precisa: se parti da Singapore alle 9 di sera e atterri a San Francisco alle 9 di sera locali dello stesso giorno, vedresti molte ore di sole durante il volo, poiché stai attraversando fusi orari verso ovest [no! sto volando verso EST!] e il giorno rimane lo stesso. Grazie per la tua pazienza, e mi scuso per qualsiasi confusione causata dalle risposte successive.

In altre parole, si è appena contraddetto di nuovo. Può anche darsi che prossimamente ChatGPT includa questa conversazione nel suo dataset e quindi possa dare in futuro la risposta corretta ricopiando questa, dando così l’impressione di aver “imparato” a gestire questo scenario, ma la sua continuata contraddizione dimostra che non sta imparando affatto: sta solo dando l’illusione di aver capito. Ma in realtà è come un pappagallo che ripete frasi senza averle minimamente comprese.

Vorrei chiarire che la domanda è effettivamente molto complessa e inizialmente ho sbagliato anch’io la risposta, tanto che ho dovuto correggere estesamente questo articolo dopo la pubblicazione iniziale. Ma il problema di ChatGPT e simili non è che ha sbagliato la risposta: è che ha sbagliato, si è inventato delle giustificazioni, e quando gli ho detto che aveva sbagliato si è inventato una nuova giustificazione per il suo errore, continuando a contraddirsi, dicendo che aveva sbagliato la sua risposta iniziale e dicendo subito dopo che la sua risposta iniziale era corretta. È un servo accondiscendente, che dice qualunque cosa pur di compiacere il suo padrone.

---

Per rispondere ai vari dubbi apparsi nei commenti dopo la pubblicazione iniziale dell’articolo: la rotta più breve fra Singapore e San Francisco è l’ortodromia (porzione di cerchio massimo) mostrata nell’immagine all’inizio dell’articolo e copre una distanza di 13.593 km.

I fusi orari attraversati sono nove, secondo TimeandDate: quando a Singapore sono le 21, a San Francisco sono le 6 del mattino dello stesso giorno. Ci sono 15 ore di differenza fra Singapore e San Francisco.

Questo vuol dire che per partire alle 21 locali e arrivare alle 21 locali dello stesso giorno, il volo deve coprire 13.593 km in 15 ore, ossia 906 km/h di media (grosso modo la velocità di un jet di linea attuale).

Supponiamo che il volo parta di domenica, il 22 ottobre 2023, alle 21 locali di Singapore (che, come dicevo, sono le 6 del mattino di San Francisco). Volando verso est, l’aereo attraversa fusi orari dove è man mano più tardi nella notte fra domenica e lunedì, fino alla linea del cambiamento di data. Quando supera la linea del cambiamento di data si trova nel cuore della notte fra sabato e domenica (nel fuso orario in cui si trova). Da lì in poi, l’aereo attraversa fusi orari dove è man mano più tardi nella notte fra sabato e domenica, fino a incontrare l’alba, veder sorgere il sole, e vederlo di nuovo tramontare avvicinandosi a San Francisco, dove atterra alle 21 e c’è buio.

Grazie a In-the-Sky.org possiamo visualizzare la situazione. Questa è l’illuminazione dalle 6 del mattino di San Francisco (le 21 di Singapore) alle 21 di San Francisco di oggi, 22 ottobre 2023:

Il numero esatto di ore di luce dipende dalla velocità di volo e dalla data, per via dell’inclinazione dell’asse terrestre che produce variazioni stagionali nell’illuminazione.

Nei commenti qui sotto, ruggio81 e boeairingbus segnalano un esempio concreto: “basta andare su Flightradar 24 e prendere un volo reale da Singapore a San Francisco e vederne il tracciato. Il sito consente di vedere la suddivisione giorno - notte direttamente sulla mappa per l'intero volo. Ad esempio registrandosi con la versione gratuita possiamo vedere il volo Singapore Airlines SQ34 partito il 21 ottobre, alle 12:10 UTC (20:10 locali, il sole era tramontato alle 18:52) e atterrato alle 02:48 UTC (19:48 locali, il sole era tramontato alle 18:23), per circa 14:30 minuti di viaggio, quindi quasi identico all'ipotesi iniziale 9pm - 9pm, e anzi abbiamo un caso in cui "si arriva prima di partire". Dalla mappa possiamo vedere a spanne che l'aereo entra nella zona illuminata dal sole intorno alle 19:40 UTC e rientra nella zona buia intorno alle 01:50 UTC. Quindi possiamo calcolare approssimativamente 6 ore e 10 minuti di luce su 14 ore e 30 minuti di volo. Circa il 42,5% del volo.” Il link è questo.

Questo è un video della registrazione su Flightradar24 di questo volo reale:

---

Dopo la pubblicazione iniziale di questo articolo, Vincenzo Cosenza ha provato a fare la stessa domanda a ChatGPT 4, che ha prestazioni teoricamente superiori a ChatGPT 3: questa è stata la risposta dell’intelligenza artificiale (grassetto aggiunto da me).

Il volo da Singapore a San Francisco è un volo trans-pacifico che attraversa diversi fusi orari. Immaginando che il volo parta e arrivi esattamente alle 9 di sera ora locale in entrambe le città, ci sono alcune considerazioni da fare.

1. Direzione del Volo: Volo verso est.

2. Fusi Orari: Singapore è a UTC+8, mentre San Francisco è a UTC-7.

3. Durata del Volo: La durata tipica di un volo diretto da Singapore a San Francisco è di circa 17-18 ore.

Ora, dato che stai volando verso est e attraversando la linea internazionale del cambio di data, "perderai" un giorno in teoria, ma arriverai alla "stessa ora" locale, il che è un po' un paradosso temporale.

Per quanto riguarda le ore di sole, questo dipende dalla latitudine e dalla stagione. Tuttavia, supponendo che il volo sia relativamente costante in termini di altitudine e latitudine (il che è improbabile, ma utile per una stima grezza), potresti aspettarti di vedere il sole per la maggior parte delle 17-18 ore, tranne per i periodi in cui il sole è sotto l’orizzonte o coperto dalle nuvole.

Nessun commento: