Ieri (6 luglio) Tesla Motors ha pubblicato una risposta tecnica a un articolo di Fortune che la accusa di aver proceduto all’offerta pubblica di oltre due miliardi di dollari di azioni senza aver informato il pubblico dell’incidente automobilistico avvenuto in Florida nel quale è stata coinvolta una Tesla Model S che procedeva con il sistema di guida assistita inserito. Secondo Fortune questo incidente andava comunicato al pubblico prima dell’offerta di azioni perché rivela un difetto importante nel sistema di guida assistita (che Tesla Motors chiama Pilota automatico o Autopilot e ha introdotto a ottobre 2015) che avrà effetto sul valore delle azioni dell’azienda.
Tesla Motors ha risposto dicendo che l’incidente è stato causato innanzi tutto dal fatto che un TIR ha tagliato la strada al conducente dell’auto e che non ci sono indicazioni che l’Autopilot non abbia funzionato “come progettato e descritto agli utenti: specificamente, come sistema di ausilio alla guida che mantiene la posizione del veicolo in corsia e adatta la velocità del veicolo al traffico circostante”. In originale:
To be clear, this accident was the result of a semi-tractor trailer crossing both lanes of a divided highway in front of an oncoming car. Whether driven under manual or assisted mode, this presented a challenging and unexpected emergency braking scenario for the driver to respond to. In the moments leading up to the collision, there is no evidence to suggest that Autopilot was not operating as designed and as described to users: specifically, as a driver assistance system that maintains a vehicle's position in lane and adjusts the vehicle's speed to match surrounding traffic.
Elon Musk ha risposto via Twitter con toni decisamente aggressivi, rimproverando Alan Murray, il giornalista di Fortune, di aver scritto un “articolo di fandonie” che ha “aumentato i vostri ricavi pubblicitari – perché non scrivete articoli sul milione e passa di morti/anno causati dalle altre case automobilistiche?”
@alansmurray Yes, it was material to you -- BS article increased your advertising revenue. Just wasn't material to TSLA, as shown by market.— Elon Musk (@elonmusk) 5 luglio 2016
@alansmurray If you care about auto deaths as material to stock prices, why no articles about 1M+/year deaths from other auto companies?— Elon Musk (@elonmusk) 5 luglio 2016
Nell’utente medio, quello che non approfondisce i dettagli tecnici ma semplicemente compra l’auto come compra una lavatrice (mi ci metto anch’io), e nell’opinione pubblica (per gran parte della quale la Tesla è solo “quell’auto elettrica carissima che va da sola”), il termine Autopilot evoca secondo me eccessivamente l’idea di una guida autonoma, durante la quale il conducente può fare altro. Mi chiedo, e ho chiesto ai partecipanti alla discussione, se questo nome abbia creato una falsa impressione d’infallibilità e di potenza prestazionale dell’Autopilot che ha indotto molti a sopravvalutarne le reali capacità.
Il risultato di questa sopravvalutazione è il numero esagerato di video popolarissimi nei quali gli utenti Tesla dimostrano che l’auto tiene la strada da sola mentre il guidatore chiude o si copre gli occhi o legge il giornale: cose proibitissime dal manuale dell’auto e dal materiale informativo di Tesla Motors. Persino la moglie di Elon Musk è stata colta a fare cose di questo genere. Il risultato è, forse, un morto in Florida, accompagnato da un’enorme reazione mediatica a questo incidente, primo nel suo genere. L’intervista della ABC ai testimoni dell’incidente raccoglie la loro paura per un’auto che ha – dicono – proseguito la propria corsa autonomamente dopo la collisione (non è andata così, ma la loro impressione è stata quella). C’è addirittura chi, come Vanity Fair, dice che il nome Autopilot andrebbe cambiato in favore di qualcosa che “faccia meno paura”.
Tesla Motors sottolinea a ogni occasione che l’Autopilot è un sistema di guida assistita nel quale il conducente è comunque responsabile e durante il cui uso è necessaria la massima vigilanza. Ma di fatto l’incidente mortale in Florida è accaduto prima di tutto perché un TIR ha tagliato la strada a una Tesla (prima causa fondamentale, che non va dimenticata) e secondariamente perché il conducente non ha nemmeno tentato la frenata o la sterzata, come se non avesse visto avvicinarsi e poi mettersi di traverso davanti a sé un ostacolo enorme. Perché non l’ha visto? Era distratto perché si fidava troppo di un sistema che Tesla Motors propone come guida assistita ma chiama in modo ingannevole Pilota automatico?
Questa è una foto, tratta da Google Street View, del luogo dell’incidente, presa dal punto di vista del conducente della Tesla. Il TIR proveniva dalla carreggiata a sinistra e ha attraversato l’incrocio a raso. Era pomeriggio, in ottime condizioni di visibilità.
Come ha fatto il guidatore della Tesla, il quarantenne Joshua Brown, a non vedere l’autoarticolato che svoltava, si inseriva nell’incrocio e gli si presentava davanti? Come ha fatto a non accorgersene al punto di non toccare nemmeno il pedale del freno o tentare di schivarlo? Forse ci sono dettagli che ancora non sono stati resi noti e che cambiano tutto, ma quello che si sa fin qui sembra suggerire che il conducente non fosse affatto attento e vigile come invece Tesla ribadisce che dev’essere chi guida con l’Autopilot. L’analisi pubblicata da The Drive indica che se Brown fosse stato attento, anche procedendo alla velocità più alta stimata dai testimoni, avrebbe avuto tempo almeno di toccare il pedale del freno.
Cosa non meno importante: in queste condizioni, come mai l’Autopilot non è intervenuto nemmeno per tentare una frenata disperata? Come mai i sensori (telecamera e radar) non hanno visto un autoarticolato che si metteva di traverso? Formalmente questo fatto non è un difetto dell’Autopilot, perché l’Autopilot non è progettato per riconoscere veicoli messi di traverso. Anzi, dice Musk, il suo radar è progettato per ignorare grandi superfici messe di traverso sopra la carreggiata: vale a dire, i cartelli stradali sospesi, ma a quanto pare anche le fiancate di TIR il cui rimorchio non ha barriere laterali sotto il pianale.
@artem_zin @theaweary Radar tunes out what looks like an overhead road sign to avoid false braking events— Elon Musk (@elonmusk) 30 giugno 2016
Come giornalista informatico, lavorando alla radio, avendo un blog e un profilo Twitter abbastanza seguiti e facendo parecchi incontri pubblici, mi capita spesso di sentire le opinioni di tante persone sugli oggetti tecnologici, comprese le auto “intelligenti”. E vedo regolarmente che è diffusissima l’idea che le Tesla, in particolare, siano automobili autonome, nelle quali ti siedi al volante ma fanno tutto loro. C’è una visione magica della tecnologia Tesla che ricorda molto quella dei prodotti Apple dell’era di Steve Jobs.
A un certo punto della discussione è intervenuto Elon Musk (o chi gestisce per lui il suo account Twitter), giustificando il nome Autopilot con un paragone con il pilota automatico aeronautico:
@disinformatico @Eddy_Jahn In other words, the intended implication is that a driver must remain alert, just as a pilot must remain alert.— Elon Musk (@elonmusk) 6 luglio 2016
@elonmusk Of course. But an aircraft pilot has to be thoroughly trained and certified for AP use, whereas 1/2 @eddy_jahn— Paolo Attivissimo (@disinformatico) 6 luglio 2016
@elonmusk … a Tesla driver just gets a briefing and clicks on a disclaimer/warning (btw:I love AP and have ordered a Model 3) @eddy_jahn— Paolo Attivissimo (@disinformatico) 6 luglio 2016
@disinformatico @Eddy_Jahn cool, thanks :)— Elon Musk (@elonmusk) 6 luglio 2016
@elonmusk Agreed. But due to difference in pilot vs driver training, perhaps alertness shd be more enforced than hoped for 1/2 @eddy_jahn— Paolo Attivissimo (@disinformatico) 6 luglio 2016
@elonmusk 2/2 E.g., eye-tracking camera checking that driver’s eyes don’t stray from road too long; load cell in seat, etc. @eddy_jahn— Paolo Attivissimo (@disinformatico) 6 luglio 2016
Ci sono inoltre delle differenze enormi fra un pilota automatico moderno (quello di un aereo di linea, per esempio) e l’Autopilot di Tesla.
– Un pilota automatico d’aereo ha un sistema anticollisione automatico che negozia con l'altro veicolo la traiettoria per evitare collisioni (TCAS). L’Autopilot no.
– Un pilota automatico d’aereo è in grado di gestire la rotta per raggiungere la destinazione indicata dal pilota: l’Autopilot non segue la strada indicata dal navigatore, ma semplicemente segue le strisce della corsia della strada sulla quale si trova.
– In cielo non ci sono semafori e la Tesla non riconosce i semafori. Se è in Autopilot, attraverserà un incrocio col rosso.
– Un pilota automatico d'aereo non è cieco a qualunque oggetto si trovi davanti e sopra, ad altezza d'abitacolo.
– A un pilota di aereo di linea non si chiede di accettare come “pilota automatico” un software che è ancora sperimentale.*
*Elon Musk, a ottobre 2015, ha presentato l’Autopilot di Tesla Motors dicendo chiaramente “We still think of it as a public beta, so we want people to be quite careful” e ;ancora oggi l’Autopilot è definito dal costruttore almeno in parte come “software beta”. Inoltre al conducente che sceglie di installarlo viene chiesto di accettare una clausola apposita di responsabilità limitata.
 |
| Fonte: Tesla Motors, per Autopilot 7.0 |
Il paragone aeronautico non regge, insomma. Forse dovremmo usare, per il sistema di guida della Tesla, un nome meno ambiguo, come Driver Assistant, Pilot Assistant, Sidekick o qualcos’altro che chiarisca inequivocabilmente il ruolo di supporto al guidatore e non di suo sostituto (fra l’altro, il manuale dell’Autopilot versione 7.1 parla di “Driver Assistance hardware”).
Certo, ci saranno sempre gli stupidi e gli incoscienti che ignoreranno gli avvisi e i nomi, non importa quanto siano chiari (come succede per le cinture di sicurezza, per esempio): ma se un nome meno ingannevole e una campagna promozionale meno sensazionale possono salvare delle vite, secondo me vale la pena di adottarli. Spero che Elon Musk aggiorni il software e i sensori in modo da rendere più difficili comportamenti pericolosi che abusano dell’Autopilot: per esempio con una telecamerina che riconosca i contorni del volto del conducente e si accorga se sta guardando in avanti o no.
Adoro le auto elettriche e le auto autonome/assistite e in particolare le Tesla, tanto da averne ordinata una (la Model 3): inquinano meno e promettono di ridurre gli incidenti e il tempo perso nella guida. Mi dispiacerebbe molto se un nome ingannevole come Autopilot causasse una reazione ostile alle auto di questo tipo, alimentata dall’ignoranza, dal pregiudizio e dalla disattenzione. Presentare questa tecnologia come se fosse matura, quando in realtà non lo è, è pericoloso, perché spinge a una guida eccessivamente fiduciosa e disattenta. Ed è pericoloso in generale per il futuro, soprattutto adesso che si sta discutendo, negli Stati Uniti, la normativa federale sulle auto autonome.
Siamo a una svolta decisiva in un campo tecnologico che ha un potere enorme di trasformare la nostra società: vediamo di affrontarla con prudenza e con informazioni corrette.
Nessun commento:
Posta un commento
Se vuoi commentare tramite Disqus (consigliato), vai alla versione per schermi grandi. I commenti immessi qui potrebbero non comparire su Disqus.