Cerca nel blog

2007/12/18

Disastri informatici (quarta parte)

Troppa fiducia nel computer di bordo uccide 257 persone


L'articolo è stato aggiornato dopo la pubblicazione iniziale.

Il 28 novembre 1979, il volo panoramico Air New Zealand 901 sorvola l'Antartico per mostrarlo ai passeggeri. Il DC-10 utilizzato per il volo usa un sistema di navigazione computerizzato che dirige automaticamente il velivolo secondo una rotta prefissata.

Quello che i piloti non sanno è che le coordinate del sistema di navigazione sono state immesse a mano con un errore di una singola cifra, per cui il volo, invece di sorvolare un'area pianeggiante, passa direttamente sopra il monte Erebus, che si trova a pochi chilometri di distanza dalla rotta prevista. Il monte, in realtà un vulcano, è alto 3800 metri.

Il pilota scende a 600 metri, come previsto, ma il bianco delle nubi si confonde con il bianco delle pendici innevate del vulcano: è un white-out, che disorienta completamente anche i piloti più esperti. Quando il pilota si accorge della situazione per via dell'allarme di prossimità al suolo (GPWS), è troppo tardi. Nello schianto muoiono tutti e 237 i passeggeri e i 20 membri d'equipaggio. Il solo responsabile, chiarirà l'inchiesta, è il software impostato erroneamente. Fonti: The Age, Wikipedia.

38 commenti:

cate ha detto...

"Computer di bordo uccide" perche'? hai scrivitto che e' stato un errore di immissione, quindi perche' dare la colpa al povero computer di bordo?

MaiDireAudit ha detto...

Concordo. In quel caso il computer ha fatto esattamente quello che gli era stato detto di fare, che è la cosa che i computers fanno meglio (Uanzi, la sola cosa che sanno in effetti fare...)
Tutti i disastri informatici citati sono, in effetti, risultato di errori di programmazione, errori umani!
Il PC di suo sa fare solo 1+1, e quando arriva a 2 ricomincia da capo!

federico ha detto...

" le coordinate del sistema di navigazione erano state immesse a mano con un errore di una singola cifra"

paradossale: un errore di computer umano!
Ganzo!!

Diego ha detto...
Questo commento è stato eliminato dall'autore.
Diego ha detto...
Questo commento è stato eliminato dall'autore.
Diego ha detto...

Scusate eh, ma i computer chi li fabbricano, gli alieni?
E chi li programmano?
Se ragioniamo secondo questa logica, tutti gli errori sono umani, anche i difetti di fabbricazione, visto che (almeno in linea teorica) e' possibile evitarli utilizzando metodi piu' affidabili.

Quando si parla di disastri informatici, io farei rientrare (come mi sembra faccia Paolo) nel quadro i difetti hardware e software, gli errori di immissione dei dati, anche gli usi scorretti del computer di turno.

Anche se uno preme l'autodistruzione e' un disastro informatico. Si puo' magari opinare se sia stato l'operatore o il computer a provocare il disastro, ma, a conti fatti, e' una distinzione meramente formale perche' alla fine e' sempre colpa nostra! Quello che conta e' l'effetto. In questo caso piuttosto tragico, direi.

Diego

markogts ha detto...

Allora può essere interessante quell'incidente dei primi airbus, dove faceva tutto il computer di bordo (famoso software "ghe pensi mi" :-)

In questo video si vede tutto: il computer di bordo, quando vede carrello fuori e bassa velocità, pensa che ci sia un atterraggio. Peccato che il pilota avesse avuto in mente solo di fare un volo radente...

Franco ha detto...

Beh, sicuramente, ma tra il dire "disastri informatici" e "computer uccide 300 persone" c'è una bella differenza.

Paolo Attivissimo ha detto...

Ho riformulato il titolo.

E' bello vedere che tanta gente ci tiene a difendere i computer dalle colpe che non hanno. Siamo tutti un po' geek :-)

Franco ha detto...

Ogni tanto mi domando perché sono affezionato al tuo blog. La tua disponibilità ad accettare correzioni ragionevoli è uno dei motivi.

federico ha detto...

x markogts (o attivissimo)
cosa sai del video che hai postato? mi incuriosisce molto!
Tra l'altro mi stupiscono le esclamazioni che si sentono, che mi sembrano tutt'altro che disperate... quindi mi chiedevo se magari l'aereo era completamente automatizzato e quindi non è morto nessuno.

markogts ha detto...

Ho trovato notizie su wikipedia. In realtà l'aereo aveva 130 passseggeri a bordo, perché era uno dei primi voli dell'airbus ed avevano fatto salire gente anche per l'esibizione. Sono morti in tre. Francamente, se dovessi vedere davanti ai miei occhi un aereo che si schianta, non so come reagirei...

Giuliano47 ha detto...
Questo commento è stato eliminato dall'autore.
Giuliano47 ha detto...

E' bello vedere che tanta gente ci tiene a difendere i computer dalle colpe che non hanno".

Perche' quella gente ne ha le scatole piene di veder scaricare sui computer, da parte di chi li utilizza, colpe dovute solo ai programmi. E nella Pubblica Amministrazione gli esempi non mancano e fanno incazzare la gente.
Se dovessi scrivere dei nuovi biglietti elettronici dell'Azienda dei trasporti di Milano finirei OT.

Bruno Viteritti ha detto...

Beh, Paolo, non si tratta di essere geek, si tratta solo di essere obiettivi: un computer non prende decisioni da solo, ma esegue esclusivamente e minuziosamente gli "ordini" che gli vengono dati da un umano.

In questo caso c'è stato un errore di programmazione, per cui la colpa è di chi ha programmato quel computer, non del computer che ha eseguito gli ordini ricevuti.

Sarebbe brutto se ora chi ha materialmente programmato il computer la facesse franca...

federico ha detto...

chi ha programmato... o meglio chi ha impostato i dati!! Se su una calcolatrice io chiedo quanto fa 2+2
anziché 2+3 non è che "programmo male" la calcolatrice, bensì semplicemente gli fornisco dei dati fasulli

cate ha detto...

Io distinguerei gli errori di software (e progettazione hardware) con gli errori degli utenti. e non dimentichiamo che in questo caso non e' stato immesso una cosa impossibile (tipo vola a -200 m "sopra" il mare), ma altitudini e coordinate possibili.

Per questo ho scritto il primo post.

Se un dottore amputa la mano destra di un paziente, mentre era da togliere il piede sinistro, dareste la colpa al libro di anatomia, perche' il "dottore" ha sbagliato pagina?

E perche' siamo precisini, c'e' pure un'altra categoria: i veri "bugs" (se non piu' gli insetti, sappiamo che raggi cosmici possono modificare la memoria, che la quantistica dice che ogni tanto (praticamente mai) un bit potrebbe essere sbagliato.

Ponte Moralizzatore ha detto...

per quanto riguarda la questione airbus mi sembra molto strano che l'aereo provi ad atterrare da solo senza riprendere quota.. visto che non è così infrequente dover magari "riattaccare" per problematiche in fase di atterraggio.

Stefania ha detto...

Errore di un computer=Errore umano... i disastri informatici ormai si sa, non c'è dubbio sono casi determinati dall'uomo! piuttosto vogliamo parlare di maschere?

Cmq Buon Natale...
vi invio 2 link simpatici

http://christmas.onemeet.net/perlei.php
http://christmas.onemeet.net/perlui.php

Logan7 ha detto...

[Molto OT]

E c'è chi si meraviglia se qualcuno crede alle scie chimiche...

[Molto OT]

Giuliano47 ha detto...

Logan7, il tuo ultimo intervento non mi pare OT per l'insieme di questi blog. Proprio ora, indipendentemente da te, ho inserito una cosa analoga nel blog
"Loose Change sbufala i Pentagonisti".

Slowly ha detto...

Non facciamo confusione.
Nessun aereo di linea ad oggi è totalmente automatizzato, il problema Airbus è che è troppo "Software oriented" piuttosto che "pilot oriented", l'incidente recente in Brasile dovrebbe chiarire meglio il concetto.
Nessun aereo inoltre atterra da solo, anche se la procedura strumentale potrebbe far pensare questo: meglio, nessun aereo "dedice" di atterrare, sia mai! L'ILS deve comunque essere impostato a mano in tempo reale. Nel video Air france l'ILS è naturalmente disattivato, mentre è attivo un Altitude Hold.L'incidente è stato provocato da un ammanco di potenza alla riattaccata.
L'assetto di carrello fuori, flap estesi è solo un assetto, appunto, non una "intenzione".
Addirittura, non è nemmeno un'intenzione di atterraggio, per così dire.
Capita di fare diverse centinaia di chilometri coi carrelli estesi per diversi motivi di failure. Naturalmente, il computer non pensa minimamente ad atterrare se non glielo dice il pilota.
In caso di ILS autoland inoltre, ricordatevi che si passa "a mano" alle minime, difficilmente si completa un autoland se non per addestramento, di tanto in tanto (se è possibile).

Logan7 ha detto...

Giuliano47 ha detto...
Logan7, il tuo ultimo intervento non mi pare OT per l'insieme di questi blog. Proprio ora, indipendentemente da te, ho inserito una cosa analoga nel blog
"Loose Change sbufala i Pentagonisti".


Era OT in questo contesto. Non è lo è in assoluto, anzi. Credo che sia, con tutti i limiti che hanno certe rilevazioni di tipo statistico, un dato da tenere sempre in considerazione, quando si affrontano certe tematiche. Per quanto riguarda l'altro blog: leggo i post con molto interesse, ma evito sempre di intervenire... ho le idee chiare su quello che è successo e di fronte a certe affermazioni sono portato ad assumere toni molto decisi, per usare un eufemismo. Quindi mi astengo.

Iilaiel ha detto...

Ragazzi sò che è OT... sto provando svista.

Mi è sorto un dubbio amletico: come fà un interfaccia (aero) che è solo un incrocio fra mac osx e kde a rallentare un pc con 2GB? Ram?

Non stiamo parlando di roba "treddi tosta" stile beryl, compiz o looking glass... I just can't believe it!

L'interfaccia altrenatica è quella di win '98 coi colori sparati.

D'oh!!!

Slowly ha detto...

Ti capisco, io l'ho provato ieri per far partire un impianto. Nulla da fare, i driver erano schifati. i driver di Vista eh? mica il contrario!
Il nome è azzeccatissimo: mi pare una svista...
Il mio softwerista con cento euro fa di meglio.
MAh...
E quanto costa Vista??

Scusa l'Off Topic ma mi trovi "caldo"..

Slowly ha detto...

Bé comunque ce ne sarebbe da parlare moltissimo.
Avete perfettamente ragione: il PC lo scotruisce prima e lo programma comunque poi un uomo. L'aereo in questione è certamente caduto per un errore umano.
Il computer di bordo è stato il mezzo col quale questo errore umano s'è compiuto.
Quando i computer saranno talmente avanzati da "sbagliare" autonomamente, Asimov si ripiglia dalla tomba. Ma è presto.
Inutile dare la colpa alla lancia storta, sei tu che hai sbagliato mira, come diceva...bo, chi lo diceva???

Slowly ha detto...

Vi lascio con un dubbio atroce, (chiedendo perdono a Paolo per il terzo comm di fila...):
Quale aereo è mai caduto se non per un errore umano? Se gli aerei li costruisce l'uomo, è mai possibile che qualcosa accada non per sua colpa? Questo vale anche per altri settori, naturalmente.
Ergo: può accadere qualcosa a degli oggetti costruiti dall'uomo senza che questi ne sia colpevole?

federico ha detto...

x Slowly
ti pregherei di smetterla di fare il filosofo. Se continui così allora potrei citare il paradosso di hume e dire: in fondo in fondo non esiste la colpa!

Un computer è programmato per prendere delle "decisioni"... se le "decisioni" che prende ci fanno del male, allora diciamo che il computer "ha sbagliato".
proprio per definizione!

Jonathan Livingston ha detto...

Scusa se vado fuori tema, ma ti chiedo se vuoi aderire all'iniziativa di Luigi (http://blog.libero.it/trifoglio/) per ricordare le vittime del lavoro. Grazie Ciao JL

Iilaiel ha detto...

@Slowly: boh anche le nuove features di sicurezza non mi sembrano poi sta grande innovazione... nulla che non sis sia visto sotto i sistemi *nix.
Anche se la ricerca delle credenziali mi fà un filino ridere. Fà perdere tempo qundo basterebbe il pop-up che richiede la password di admin.

Anche la compatibilità con i programmi fà schifo. NOn riesco a installare l'80% del software. E il peggio è che negli error messages non spiega nemmeno bene qual'è il problema.

Deprimente, davvero deprimente.

E io che speravo di vedere un'altro salto di qualità come quello da win 2000/millenium a xp, non avrà fatto miracoli ma è stato un bel passo avanti.

Fortuna che è un oem, almeno non ho buttato via 500\600 euro.

Franco ha detto...

"Ragazzi sò che è OT... sto provando svista.

Mi è sorto un dubbio amletico: come fà un interfaccia (aero) che è solo un incrocio fra mac osx e kde a rallentare un pc con 2GB? Ram?

Non stiamo parlando di roba "treddi tosta" stile beryl, compiz o looking glass... I just can't believe it!

L'interfaccia altrenatica è quella di win '98 coi colori sparati.

D'oh!!!"

...e il premio speciale per la massima densità di vocaboli non italiani in un post in italiano va a...

iilaiel! Congratulazioni! Anzi, congratz!

Effe ha detto...

I computer non sbagliano, è la mente di certi programmatori che è bacata :)

IlTremendo ha detto...

il computer è una scatola stupida, come diceva popper.
ogni disastro informatico elencato da paolo, è stato creato da un errore umano, sia di data entry che di valutazione.
quindi perché questo caso dovrebbe essere diverso dagli altri?
che differenza c'è tra immettere un numero sbagliato o programmare un sensore con un sistema metrico-decimale diverso da quello di tutti i sistemi installati nella stessa macchina?

Slowly ha detto...

Ciao!
Si, io con Vista mi arrendo. Non ne voglio più sapere nulla. Mi converto a Mac e amen. Anche perchè pare un pò una presa per i fondelli tappare i buchi di XP, e quando finalemene la cosa pare riuscita, ritrovarsi punto e a capo con Vista.

Per Federico bé, mi spiace se mi hai frainteso, non volevo passare per filosofo, non lo sono affatto.
La mia intenzione era dibattere sul fatto che le macchine sbagliano perchè c'è all'inizio un errore umano.

Mi scuso con tutti se sono passato per filofoso, non era mia intenzione.

Mia intenzione è semmai era dialogare sul dove iniziano gli errori dei PC e dove finiscono queli umani, PC che sbagliano "di loro" non mi pare di averne ancora visti.

Non a caso siamo tutti un pò scioccati da Vista...

Se non ci si legge prima, auguro a tutti un Felice Natale!

Slowly ha detto...

iilailel non lo so.

Io osno un pò stufo di accrocchi.
Preferisco sistemi che stanno in piedi.
Dopo ttuti i lavoracci che ho fatto perm stare in piedi XP, se MS non mi paga come beta tester con Vista passo a Mac a saluti.

:)

Mi tengo stretto l'Xp tappato, che è meglio.

Comunque certamente avremo modo di riparlarne.

Mattia ha detto...

Ma Paolo, che succede? Non scrivi niente sul blog da una vita...
Stai poco bene? Sei in ospedale senza wireless?
Inizio a preoccuparmi...

Giuliano47 ha detto...

@mattia

Test per presenza paolina:

W LA GNOCCA!

Se questo commento OT viene eliminato dall'amministratore del blog, allora Paolo sta bene.

Paolo Attivissimo ha detto...

Sto bene, grazie, ma proprio per questo non mi permetterei mai di cancellare un messaggio che contiene una delle invocazioni rituali delle convention emiliane di Star Trek :-)

Vorrei solo sapere abbastanza la lingua locale da poter rispondere correttamente con l'invocazione femminile corrispondente.

Gli attori ospiti si chiedono sempre cosa sia questo rito, ed è sempre un piacere vedere la loro reazione quando glielo spieghiamo.