Una Tesla evita anatre? Forse. Di certo solleva il problema delle decisioni in emergenza

Sta circolando da qualche giorno questo video, per ora non confermato, nel quale si vede un’auto che evita una famiglia di anatre che sta attraversando la strada. La descrizione del video dice che l’episodio è avvenuto in Nuova Zelanda, fra le località di Gisborne e Bacchus Marsh, l’11 novembre scorso, e che l’auto era una Tesla sulla quale era in funzione il sistema di guida assistita (il cosiddetto Autopilot).

La descrizione aggiunge che il conducente procedeva a 100 km/h e non avrebbe notato gli uccelli a causa delle ombre, ma l’assistente di guida avrebbe riconosciuto i volatili, avrebbe suonato l’allarme e avrebbe sterzato e frenato.

Essendo un video virale monetizzato, il rischio che si tratti di una messinscena non è trascurabile, e sto cercando conferme o smentite. Ma in ogni caso il video ripropone in maniera molto coinvolgente il problema fondamentale di qualunque veicolo a guida autonoma o assistita, e anche di qualunque automobilista: cosa fare in casi come questi?

La soluzione cinica e fredda, viste le dimensioni degli animali, è travolgerli: i danni all’auto saranno trascurabili e si eviteranno i rischi di una sterzata improvvisa, con possibile perdita di controllo. Ma quanti si sentirebbero di scegliere questa soluzione? Quanti riuscirebbero, in emergenza, a resistere all’impulso di sterzare e frenare?

In questo caso il sistema di guida assistita avrebbe, a quanto pare, preso la decisione perfetta, riconoscendo gli oggetti e gestendo impeccabilmente la sterzata e la successiva correzione di traiettoria. Ma cosa sarebbe successo se ci fosse stata nella corsia opposta un’altra auto? O un ciclista? O un cane? Il sistema avrebbe sterzato lo stesso, causando uno scontro frontale o travolgendo una persona o un altro animale? O avrebbe semplicemente frenato restando in corsia, nel tentativo di ridurre il danno agli animali e all’auto? E se al posto delle anatre ci fosse stato un bambino?

Un sistema di guida assistita ha tempi di reazione enormemente più rapidi di un essere umano: situazioni come queste, dal suo punto di vista, avvengono al rallentatore e senza emozioni, e quindi c‘è tutto il tempo di “ragionare” sulle varie opzioni e di calcolarne i risultati con freddissima precisione. Ma gli attuali assistenti di guida hanno questo livello di sofisticazione, o si limitano a semplici istruzioni del tipo “se vedi un oggetto grosso davanti a te e la corsia in fianco è libera, scansalo”? Sanno riconoscere non solo gli oggetti, ma il loro valore etico?

Per contro, qualora fosse possibile programmare delle priorità all’interno di questi sistemi, quali dovrebbero essere queste priorità? Se l’impatto è inevitabile, l’auto chi deve scegliere fra un bambino o un anziano? Fra un uomo e una donna? Fra un pedone e un gruppo di pedoni? Se uscire di strada permette di salvare le persone sulla strada ma mette a rischio il conducente e i passeggeri dell’auto, che però sono protetti almeno in parte da carrozzeria, airbag e cinture, è questa la scelta da fare? E se invece si tratta di scegliere fra danni materiali all’auto e investire un anatroccolo?

Più in generale, è giusto pretendere che un sistema informatico debba prendere queste decisioni etiche? O dovremmo invece limitare la guida autonoma a percorsi appositi e messi in sicurezza, come avviene per i treni o le metropolitane e gli ascensori, e abbandonare il sogno di essere portati in giro per le città caotiche di oggi da fedeli servi elettronici infallibili?

Questi dilemmi non sono certo nuovi: fanno parte del cosiddetto trolley problem, o “dilemma del tram”, che ho già toccato altrove, sono noti dagli anni Sessanta del secolo scorso e sono tornati alla ribalta con l’introduzione dei sistemi di guida assistita e con l’affacciarsi all’orizzonte di sistemi di guida pienamente autonoma.

Se volete saperne di più, consiglio questo articolo di Towards Data Science, che esplora i vari approcci adottati dalle aziende come Waymo e Tesla che stanno studiando il problema.


Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuto, potete incoraggiarmi a scrivere ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico), Bitcoin (3AN7DscEZN1x6CLR57e1fSA1LC3yQ387Pv) o altri metodi.