Cerca nel blog

2018/06/15

Perché è così difficile insegnare a un computer a guidare un’auto?

“Ma cosa ci vorrà mai”, pensano spesso i non addetti ai lavori quando si parla di programmare un computer per farlo interagire con il mondo reale. In fin dei conti, dicono, se un bambino è capace di riconoscere un oggetto e di allungare una mano e prenderlo, non può essere un compito così difficile insegnare la stessa cosa a una macchina: basta immettere le istruzioni giuste.

Non è così, e una bella dimostrazione di quanto sia difficile questa interazione è proposta da Andrej Karpathy, direttore del reparto di intelligenza artificiale di Tesla, in questa conferenza tenuta al TRAIN AI 2018. Il video è qui (l’embed non è permesso; la parte più ghiotta è dal quindicesimo minuto in poi) e le slide della sua presentazione sono qui sotto.



Sottolineo che quello descritto da Karpathy non è il software attualmente installato sulle Tesla, ma è la base di quello che verrà installato in futuro; alcuni suoi elementi sono già inclusi nel software installato a partire da marzo scorso.

L’azienda sta usando le immagini acquisite dalle telecamere di bordo delle proprie auto, circa 250.000 sparse per il mondo, per costruire un enorme archivio sul quale addestrare il proprio software di intelligenza artificiale in modo da permettergli, a furia di vedere esempi, di riconoscere gli oggetti che incontra per strada e gestirli di conseguenza.

Detta così pare facile: per insegnare a un’auto a riconoscere un semaforo basta farle vedere tanti semafori di vari tipi e il software si farà un’astrazione del concetto di semaforo. Ma Karpathy presenta alcuni esempi eloquenti di quanto possa essere variabile l’idea apparentemente semplice di “semaforo”.



Ci sono anche altri esempi chiarissimi nella presentazione di Andrej Karpathy. Pare abbastanza banale riconoscere le righe di delimitazione di una corsia, ma poi trovi cose come queste:





Anche la categoria “automobili” pare abbastanza ovvia da riconoscere, poi capita un caso come questo: quante auto sono? Una sola, due, quattro?


Uno degli aspetti più difficili è includere i casi atipici e rari: la stragrande maggioranza delle immagini campione acquisite e usate per addestrare l’intelligenza artificiale rappresenta auto e solo una piccolissima percentuale mostra altri veicoli insoliti, tipo i tram, oppure situazioni come le strade innevate.



Un caso che sembra comune ma in realtà è raro è il giallo dei semafori: è un segnale importante tanto quanto il verde e il rosso, eppure compare molto meno frequentemente degli altri due colori nelle immagini raccolte. Insegnare al software che un evento raro è importante e va capito bene tanto quanto uno frequentissimo non è banale.

Poi c’è l’incubo della lettura dei cartelli stradali (che mette in crisi anche molti esseri umani).



La parte più difficile, insomma, non è più scrivere le singole righe di istruzioni, ma costruire un repertorio di immagini realmente completo e correttamente bilanciato. Forse non arriveremo alla guida realmente autonoma finché non decideremo di semplificare e uniformare drasticamente la segnaletica e la viabilità, riprogettandola in funzione dei limiti del software di guida.

57 commenti:

Urgentissimo! ha detto...

L'aspetto divertente della faccenda è quella profonda fede religiosa nelle Future Capacità del Software di sopperire ad un'infrastruttura che ha almeno un secolo e mezzo di vita.

claudiano ha detto...

Sono un programmatore che per mestiere informatizza flussi produttivi vecchi di decenni che per decenni sono stati portati avanti "umanamente".
Mi sento la presunzione di dire che un problema come quello nel video non si risolve se non dotando le strade di segnali pensati per i computer delle auto e non per le persone.

Come detto nell'articolo stesso mi vengono in mente le difficoltà che noi umani incontriamo quando, sotto ad un normale cartello, compare un cartello scritto che elenca tutte le eccezioni.
Per non parlare di quando questo capita all'estero.

In teoria una AI potrebbe gestire queste situazioni ma con le reti neurali (sicuramente d'altissimo livello) la vedo veramente dura.

Fabio Galletti ha detto...

Banalmente, ricordo il mio primo scanner.
E come 'non' funzionasse il programma riconoscimento testi.
E doveva solo capire simboli statici ad alto contrasto.

Stefano Pozzato ha detto...

A ferrara c'e' un'ampia rete di piste ciclabili con i loro semafori. peccato che molti siano rivolti verso la strada, cosi da lontano vedi verde, vai tranquillo, ma poi investi una bici perche' il semaforo verde e' per le bici non per le auto. dopo qualche morto hanno riprogettato il tutto. concordo con CLAUDIANO, la segnaletica va riprogettata per le auto, con trasmettitori infrarossi o altro. La segnaletica e' confusa per gli umani, figuriamoci per le auto autonome.

dani1967 ha detto...

Riflessione ineccepibile. Da cui deve conseguire che, fino a che il risultato non sarà raggiunto, non dovranno essere immesse nel traffico auto con questi sistemi, anche se i manuali ne spiegheranno i limiti minuziosamente.

Andrea ha detto...

mi piacerebbe vedere come reagirebbe un'auto ad un cartello con sullo stesso palo montato il cartello dei 30 e dei 60 come mi è successo una volta...

danjar ha detto...

Dopo lunga riflessione ho maturato la convinzione che una "Intelligenza Artificiale" non possa correttamente guidare un'auto in autonomia. Per poterlo fare dovrebbe raggiungere un livello di complessità paragonabile a quella di un cervello umano adulto, cioè una struttura informativa incredibilmente connessa, corredata da un vastissimo patrimonio di esperienze estremamente diversificate. A quanto ho capito anche la ricerca più avanzata e sofisticata attualmente disponibile è lontanissima da tale livello e i massimi esperti non sono minimamente in grado di dire quando ci arriveremo, anzi nemmeno sanno se ci arriveremo.
Anche se sappiamo che costruire un sistema informativo al livello di un cervello umano è possibile (tutti noi ne abbiamo anzi uno!) non sappiamo se sia fattibile farlo con metalli, silicio ed elettricità. A quanto sembra ogni singolo cervello umano ha una capacità di immagazzinamento dati almeno paragonabile (o superiore) all'intera Internet e, soprattutto, può gestirla con 20 Watt (laddove i "moderni" computer utilizzerebbero un gigawatt, cioè la potenza generata da una centrale nucleare - uh oh!).
Inoltre: non abbiamo capito (né, a quanto ne so, siamo vicini a capire) come funzioni il nostro cervello - come impari - e non è affatto detto che i software che scriviamo siano adeguati o comunque abbastanza efficienti nel perseguire strategie efficaci per costruire un sistema informativo effettivamente capace di replicare l'incredibile capacità cognitiva di un cervello umano adulto. Semplicemente, ci speriamo (uh oh!)

Ora, sono pronto a riconoscere che già oggi i sistemi di assistenza alla guida o perfino ciò che chiamiamo "guida autonoma" siano in grado di aumentare la sicurezza stradale collettiva, semplicemente perché "costringono" i veicoli a circolare con grande prudenza. Però credo che ci vorrebbe un po' più di onestà intellettuale, che si ammettesse che il beneficio che danno questi sistemi è di limitare i comportamenti umani imprudenti e pericolosi, riducendo a priori il rischio e il danno da incidente in quei casi nei quali qualcosa va storto. Non sono affatto "più bravi" nel guidare, anzi fanno e continueranno a fare errori "incredibilmente" stupidi, semplicemente è facile farli disciplinati, mentre è molto più difficile mettere sotto controllo gli umani al volante.

Fx ha detto...

Ho iniziato a seguire Karpathy ai tempi del suo char-rnn, con il quale ho avuto modo di giocare (e con il quale ho prodotto Salvini RNN, che dovrei rispolverare dato che oggi è più d'attualità che mai - lo trovate all'indirizzo https://www.facebook.com/salvinirnn/ ) con una certa soddisfazione, scoprendo che in realtà basta una rete neurale davvero minimal per "parlare", seppur in modo approssimativo e senza ovviamente comprendere il senso di quanto detto.

Considerato che è una delle due persone che abbia mai seguito su Internet (l'altra è Paolo, ma è un rapporto complicato :D ), la sorpresa di trovarsi proprio lui a ricoprire un ruolo di primissima importanza in Tesla è stata tanta; se visto da un mero punto di vista probabilistico è una coincidenza incredibile.

Andrea P. ha detto...

Come mi pare accennare claudiano, la soluzione sarebbe quella di integrare nella segnaletica orizzontale e verticale dei COSÌNI (scusate il termine eccessivamente tecnico !) in grado di comunicare con il veicolo. COSÌNI che in varie forme già esistono (come il Telepass, per dirne uno); si tratta solo di unformare lo standard.

Berto ha detto...

@andreap: "cosìni per cosare le cose" -> https://it.m.wikipedia.org/wiki/Transponder

Luke ha detto...

Concordo, va bene le difficoltà tecnologiche ma finché non si ha un autopilot non bisnogna spacciarne uno per tale. Le difficoltà tecnologiche sono un conto la truffa è un altro.

Fx ha detto...

danjar: il cervello umano è notevolmente sopravvalutato. La ricerca sull'AI mostra chiaramente che non ci vuole molto ad ottenere capacità superumane (per intanto su task specifici, come la classificazione di immagini, in cui la AI performa già meglio di un uomo, e in una minuscola frazione di tempo).
Quello che manca ai veicoli autonomi di classe 4 è la flessibilità che noi abbiamo grazie a quello che dicevi tu (un cervello "general purpose", addestrato a 360°, utile per trovare la soluzione a esempi complessi come quelli riportati in foto), che però è anche fonte di scelte sbagliate e potenzialmente, quando si parla del guida, fatali - un essere umano nel dubbio può imboccare l'autostrada contromano, un'auto a guida autonoma no.
Insomma, si, le auto a guida autonoma in casi eccezionali non saranno in grado di prendere le decisioni che un umano invece prenderebbe a cazzo. Dov'è che si firma? =)

brain_use ha detto...

un problema come quello nel video non si risolve se non dotando le strade di segnali pensati per i computer delle auto

Assolutamente d'accordo, almeno allo stato attuale della tecnologia dell'AI e di tutto ciò che la circonda.
Proprio per questo, perché gli attuali sistemi informatici di bordo non non sono in grado di gestire le mille anomalie presenti sui tratti stradali, resto convinto che al momento gli "autopilot" sono più pericolosi che utili.

paolo ha detto...

L'idea era che la guida autonoma sulle auto avrebbe diminuito il numero di incidenti, non azzerato. Qual è la percentuale di incidenti per km nelle auto a guida autonoma? Quale per le auto a guida umana? Con quale delle due è piu sicuro viaggiare?

GUD87 ha detto...

Secondo me il problema non stà nel aver sottostimato le difficoltà di programmare un auto perchè si guidi da sola, ma è stato sottostimato lo smisurato uso di risorse che il cervello umano ha a disposizione per guidare un auto, e in molti casi anche la nostra mente biologica va in crisi commettendo errori, nonostante le risorse che abiamo.
Il cervello umano è l'oggetto più complesso dell'universo a noi noto e nonostante tutti i nostri sforzi non abbiamo ancora capito l'algoritmo che permette ad un mucchione enorme di cellule di generare un pensiero.

@FX prima dici che il cervello è sottovalutato e poi che è l'unico device veramente "general purpose" ? guardati questo canale per capire quanto neuroscienziati e programmatori stanno facendo fatica a capire e immitare la complessità del cervello umano, siamo ancora molto lontanoi dal riuscire ad emularne 1..

martinobri ha detto...

costruire un sistema informativo effettivamente capace di replicare l'incredibile capacità cognitiva di un cervello umano adulto

Un sistema informativo che replichi del tutto il cervello adulto distoglierebbe l'attenzione dalla macchina davanti per guardare la bionda nella macchina di fianco o per fissare la pubblicità della Yamamay.
Siamo sicuri di volerlo?

contekofflo ha detto...

@martino

Basta che sia un cervello umano adulto FEMMINILE e abbiamo risolto il problema :-D

Mammiiiinaaa?! ha detto...

Quoto in pieno Martinobri
"Perché è così difficile insegnare a un computer a guidare un’auto?": perché è risultato molto difficile insegnare anche a molti umani a guidare decentemente...

Fx ha detto...

GUD87: già, in questo periodo con il discorso della nave dei migranti basta farsi un giro su Facebook per vedere quali smisurate risorse il cervello umano ha a disposizione;
o meglio, sicuramente ha a disposizione un buon numero di neuroni, ma evidentemente in molti, molti casi le sinapsi sono collegate un po' a cazzo.

Laddove c'è un interesse commerciale il cervello umano viene già battuto dall'AI, e dell'AI attuale fino a pochi anni fa non esisteva manco la teoria, mentre noi siamo frutto di milioni di anni di evoluzione (anche se nei casi citati sopra si direbbe che no).

Nei prossimi anni ne vedremo delle belle e il mito del cervello umano come il non plus ultra cadrà miseramente,
dopotutto da una parte la teoria evolve velocemente, ci sono enormi margini di miglioramento lato hardware dato che deve ancora uscire hardware specificatamente ottimizzato, l'evoluzione continua dei processi produttivi permette di raddoppiare la complessità ogni tot mesi;
dall'altra siamo assolutamente fermi, i cambiamenti si vedono in migliaia di anni.

InMezzoAlCielo ha detto...

paolo ha commentato:
"L'idea era che la guida autonoma sulle auto avrebbe diminuito il numero di incidenti"


Ma assolutamente no, si tratta solo di marketing.
O gli sviluppatori erano certi di replicare il sistema di guida della serie tv Supercar, ignari del fatto che era solo finzione televisiva, o appunto si tratta solo e semplicemente di marketing.

E' un concetto molto semplice: un sistema a guida autonoma per essere (il minimo sindacale) ragionevolmente sicuro necessita di un'adeguata infrastruttura stradale appositamente concepita: transponder, radar, sensori, segnaletiche speciali, etc., gestiti e monitorati da un sistema informatico centralizzato.
Senza dimenticare il sistema di navigazione satellitare che non può certo essere così com'è ora.
E le stesse auto, ovviamente, devono poter dialogare tra loro.

Qualsiasi alterazione di una qualsiasi segnaletica stradale, esempio un mezzo che sbatte contro un cartello stradale piuttosto che versa una lunga colata di vernice bianca sull'asfalto e infiniti altri casi, più o meno gravi, devono poter dialogare con il sistema di guida.

cyberninja ha detto...

@contekloffo
[quote]Basta che sia un cervello umano adulto FEMMINILE e abbiamo risolto il problema :-D[/quote]

No, perchè mentre guida si sistemerebbe il trucco. XD

Jotar ha detto...

Il problema dei transponder è che non solo si possono guastare, ma che possono essere hackerati.
Per esempio, dei terroristi potrebbero piazzare due trasponder in mezzo all'autostrada che dicono "camion" e improvvisamente tutte le auto dietro saranno costrette a fermarsi, anche se davanti a loro non c'è realmente niente. Quindi è inevitabile che i due sistemi (transponder e lettura dei dati esterni) debbano convivere sistematicamente, anche per individuare oggetti per i quali basterebbe il trasponder associato.

ST ha detto...

Prima di guidare il nostro cervello ha un addestramento di 18 anni continui di riconoscimenti,esempi, potrebbe essere, e quant'altro...

pgc ha detto...

InMezzoAlCielo: "Ma assolutamente no, si tratta solo di marketing.".

Conclusione basata su quali evidenze?

Dottor Andrea Verdi ha detto...

@Fx "sicuramente ha a disposizione un buon numero di neuroni, ma evidentemente in molti, molti casi le sinapsi sono collegate un po' a cazzo"

Problema facilmente risolvibile diffondendo nelle stazioni di servizio,ma non solo, distributori automatici di invitanti tramezzini alle uova. (Per intenditori)

Mauro ha detto...

Sono anni che lo dico...
Se vogliamo automobili a guida autonoma dobbiamo avere strade con tutta la segnaletica standard e certificata e devono poter accedere a queste strade solo i veicoli testati e certificati per essere riconoscibili dall'intelligenza artificiale.
Direi fattibile nelle autostrade.

Berto ha detto...

@cyberninja:
"@contekloffo
Basta che sia un cervello umano adulto FEMMINILE e abbiamo risolto il problema :-D"

No, perchè mentre guida si sistemerebbe il trucco. XD"

E l'istruzione "parcheggio" manderebbe in crash irreversibile il sistema.

Guido Pisano ha detto...

Per questo credo che l'approccio sia sbagliato - probabilmente serve qualche passetto in piu' verso l'euristica e un AI che sia AI...

Guido Pisano ha detto...

...in alternativa strade dedicate alla guida autonoma con segnaletica "standard" (toh m'allargo: elettronica anche la segnaletica!)

SirEdward ha detto...

Il problema dei transponder è che non solo si possono guastare, ma che possono essere hackerati.
Per esempio, dei terroristi potrebbero piazzare due trasponder in mezzo all'autostrada che dicono "camion" e improvvisamente tutte le auto dietro saranno costrette a fermarsi, anche se davanti a loro non c'è realmente niente.
(Jotar)

E' pure peggio di così, non c'è bisogno del transponder.

Se sai che l'auto non investe un pedone in mezzo alla strada, ma si ferma, basta che un malintenzionato si metta davanti all'auto che gli interessa e quella si fermerà e non ripartirà più, mentre i suoi complici potranno agire indisturbati sugli occupanti. Nessun trasponder, nessuna informatizzazione.

Senza la possbilità di un override manuale dei comandi, le auto a guida autonoma sono delle "sitting ducks" per ogni malintenzionato. Questo significa che le auto dovranno poter essere comunque guidate in maniera manuale, se necessario, e che i sistemi di connessione non potranno mai essere solo "computer-friendly".

Rigongia ha detto...

@Martinobri (commento #16) : Credo che nel ragionamento che fai ci sia il problema di mischiare l' infrastruttura decisionale (la matassa di neuroni) con la base di dati utilizzata come appoggio. "Basterebbe" (le virgolette sono per sottolineare che non lo ritengo facile per nulla) evitare di rendere interessanti determinati stimoli sensoriali per ottenere un sistema di guida insensibile a certi tipi di distrazione. E penso che la strada per raggiungere questo obiettivo passi dalla costruzione di un database di esperienze "mirato"

Guastulfo (Giuseppe) ha detto...

Basta che sia un cervello umano adulto FEMMINILE e abbiamo risolto il problema :-D"

No, perchè mentre guida si sistemerebbe il trucco. XD"

E l'istruzione "parcheggio" manderebbe in crash irreversibile il sistema.


A proposito di questi luoghi comuni, dalla mia esperienza ho capito che non è vero che l'uomo guida meglio della donna ma sono solo il tipo di errori da parte dei guidatori poco esperti a differenziarsi in base al sesso.

Un automobilista uomo inesperto potrebbe fissare la pubblicità con raffigurata una signorina ammiccante, nel mentre ha davanti ha un TIR fermo col pianale di carico abbassato pronto a segargli in due il vano motore.

Un'automobilista inesperta, invece, proverà a passare tra due tram non riflettendo sul fatto che:
1. hanno la precedenza;
2. non hanno lo sterzo per evitarti.

Se, invece, hanno esperienza di guida non ci sono differenze sostanziali.

Per essere pignoli esisterebbe la categoria dei famigerati automobilisti col cappello ma penso che quella sia una specie a parte :-)

pgc ha detto...

la segnaletica andrebbe certificata *comunque*, non solo per guidatori autonomi. Almeno in certe zone d'Italia - in altre non so - la situazione è patetica.

Comunque le ricerche per arrivare ad una segnaletica capace di essere letta da sistemi autonomi sono abbastanza avanzate. Ci lavorano in molti e sebbene manchi ancora uno standard è chiaro che la direzione sia quella.

Non è detto si debbano usare sistemi elettronici (che richiedono alimentazione continua e diffusione capillare): sono in fase di test, per esempio, codici a barre invisibili all'occhio umano che possono essere lette dall'auto in maniera efficiente ed in tutte le condizioni. Sistemi di codifica e controlli incrociati possono ridurre gli effetti di un eventuale hackeraggio. Inoltre possono essere segnalati dalle auto.

In fondo potrebbe accadere per gli occhi umani di vedere cartelli e segnali finti, ma non mi pare sia un problema molto comune.

gius db ha detto...

La moglie piena e la botte ubriaca in tutti i vari casi.
- I computer non sono in grado di prendere decisioni in base alla logica fuzzy (una reazione a caso, correggiamo poi).
Sono veloci, precisi, affidabili, fuori da questo hanno lacune enormi.
E paragonare il cervello umano ad un computer e' come paragonare una F1 a un dune buggy.
- Creare infrastrutture apposite, una cosa enorme, costosa, impossibile da far funzionare in maniera affidabile.
Che poi se si riuscisse a farla e a farla funzionare non servirebbe nemmeno la guida autonoma.
- Tecnologie sofisticate che messe in vendita devono subito funzionare al meglio senza gravi lacune, mai successo nel passato.
Servirebbero talmente soldi e tempo che si fa tempo a vedere prima la fusione a freddo.

Fx ha detto...

Jotar: "Il problema dei transponder è che non solo si possono guastare, ma che possono essere hackerati."

Ci stai dicendo cioè che i terroristi che già oggi potrebbero:
bloccare la strada mettendo di traverso un mezzo
creare un blocco / incidenti eliminando / manomettendo / modificando la cartellonistica stradale
ottenere il mdedesimo risultato disseminando qualche decina di metri di strada di chiodi
(eccetera eccetera)

potrebbero far questo già oggi e se ne sbattono il cazzo,
installi un transponder - magari con crittografia a un milione di bit - e questi cosa fanno?
OVVIAMENTE LO HACKERANO, dato che è assolutamente la cosa più semplice per bloccare una strada, e peraltro assolutamente alla loro portata, dato che i terroristi sono terroristi part time e per il resto del loro tempo hackerano le Xbox per i loro figli, così avranno modo di distrarsi dopo che il padre sarà saltato per aria.

Appurato che l'idea che dei transponder non è una grande idea
non lo è nemmeno quella dei transponder in se:
state cioè discutendo su come nel 2018 le auto a guida autonoma,
quelle che per funzionare hanno bisogno di aver tutto mappato (e si sta parlando di "mappe HD", 3D con risoluzione a 5 cm),
dovrebbero aver bisogno di transponder per ricevere un'informazione peraltro scema (che vige da lì in avanti, senza sapere fino a dove),
che peraltro prevede l'installazione - e soprattutto la manutenzione - di milioni di apparecchi in ogni dove.

Non so il vostro ma il mio TomTom almeno 10 anni fa mi diceva il limite di velocità corrente,
Google Maps mi dice in tempo reale traffico rallentamenti incidenti e quant'altro;
forse, dico forse, si può risolvere con uno standard aperto per comunicare la posizione e la validità di qualsiasi segnaletica stradale esistente (permanente o temporanea), in modo che l'informazione possa fluire liberamente.

Bravi, mi avete sollecitato l'idea per una startup. :)

contekofflo ha detto...

In aggiunta al commento di Sir Edward (e vale anche in parte come risposta a FX)

Non c'è nemmeno bisogno di ipotizzare uno scenario in cui dei malintenzionati si mettono di mezzo.
Cosa succederebbe se (per il maltempo, per un terremoto, per un incendio) i segnali stradali elettronici e/o fisici fossero indisponibili? O se una corsia fosse completamente bloccata da una frana obbligandomi a procedere per qualche metro contromano? Se non potessi prendere manualmente i comandi e "obbligare" l'auto a proseguire, mi troverei con una tonnellata di inutile ferraglia. Magari proprio in un momento nel quale scappare velocemente è questione di sopravvivenza.

E se uno dei sensori (un radar, una telecamera, un gps) si guastasse? Sarei comunque in grado di usare l'auto sotto la mia responsabilità, oppure mi troverei con un mezzo quasi perfettamente funzionante ma che si rifiuta di mettersi in moto?

Jotar ha detto...

@fx,
Volevo solo dire che affidare buona parte della sicurezza ai transponder potrebbe rivelarsi pericoloso se fatto in maniera ingenua. Dei transponder progettati ingenuamente non devono essere hackerati, è sufficiente staccarli da un veicolo rubato e piazzarli dove si vuole con una piccola alimentazione. Anche per i segnali stradali ci vorrà una georeferenziazione. I lavori in corso dovranno essere comunicati da enti certificati, in modo che l'auto sappia in anticipo che in un determinato tratto dovrà spostarsi sulla corsia contromano dell'autostrada. Se il sistema viene avvertito potrà interpretare meglio la situazione scongiurando eventuali errori di interpretazione.

Berto ha detto...

@Guastulfo (Giuseppe):

In verità, volendo arricchire la lista dei luoghi comuni, alla succitata categoria degli omini con il cappello ne andrebbero aggiunte almeno altre due (so che adesso qualcuno si risentirà): muratori e camperisti.
I primi sono in giro al mattino all'ora di punta con la betoniera slegata nel cassone del camion e i secondi guidano un mezzo ingombrante per una settimana all'anno, ed entrambi non han fretta di arrivare.

Guastulfo (Giuseppe) ha detto...

@SirEdward
Se sai che l'auto non investe un pedone in mezzo alla strada, ma si ferma, basta che un malintenzionato si metta davanti all'auto che gli interessa e quella si fermerà e non ripartirà più, mentre i suoi complici potranno agire indisturbati sugli occupanti. Nessun trasponder, nessuna informatizzazione.

O essere programmata per rilevare un'aggressione e ripartire cercando di schivare il malintenzionato o anche andargli addosso se necessario.

Potrebbe esserci anche un "pulsante rosso" per emergenze varie attivabile dai passeggeri.

SirEdward ha detto...

@Guastulfo

Ok, dovrò fare il rompiuova nel paniere

O essere programmata per rilevare un'aggressione e ripartire cercando di schivare il malintenzionato o anche andargli addosso se necessario.

Sicuro? Come fa l'auto a sapere che quello davanti è davvero un malintenzionato e non uno qualsiasi, per poterlo colpire?

Come fa a evitarlo se quello sta abbastanza vicino, o a contatto, con l'auto? (nei casi più estremi, pensa a più di un complice che blocca il veicolo)

Come fa a sapere che quella è un'aggressione e non una squadra di agenti di polizia che cercano di fermare un sospetto (senza usare trasponder, visto che si partiva dal rischio di hacking), o una squadra di vigili del fuoco, o (se parliamo solo di movimento) anche solo un gruppo di manifestanti pacifici o di bambini che corrono? O di passanti che attraversano la strada in un ambiente estremamente affollato?

E cosa dovrebbe fare, l'auto, investire l'aggressore per... scappare via rompendo le regole del traffico creato omogeneo per evitare rischi e compattare il maggior numero di veicoli nel minor spazio? Sarebbe distruttivo per l'intera circolazione.

Non lo dico per negare l'idea tout court, solo per far notare qual è la differenza fra i sogni fantascientifici (come questo) e i problemi reali che esistono e che, con ogni probabilità, non permettono la realizzazione del sogno come è stato concepito.


Potrebbe esserci anche un "pulsante rosso" per emergenze varie attivabile dai passeggeri.


No, quello sono sicuro che non ci potrebbe essere: immagina il malintenzionato (un pazzo, un ragazzino annoiato, un terrorista, una persona in preda a qualche forma di road rage) che scatena il "pulsante rosso" quando fa più comodo al suo pensiero malvagio, per fare male alle altre persone. E senza nemmeno dover fare nulla di più che premere un pulsnte! (è psicologicamente diverso fare male a qualcuno compiendo azioni complesse che fare male a qualcuno spingendo un pulsante; la seconda opzione rende molto più difficile l'intervento dei meccanismi di controllo personali, oltre a spersonalizzare la vittima).

Fx ha detto...

Ragazzi, vi fermate un attimo?
Si parla già oggi di ELIMINARE i comandi, per cui sarà come salire su un taxi: i comandi tu non li hai, e se il tassista è ubriaco, fa scelte sbagliate, si ferma di fronte al malintenzionato, legge male i cartelli o quant'altro... ti attacchi.

Vi rendete vagamente conto di quante seghe mentali vi state tirando sulle auto a guida autonoma e quante di tutte le vostre elucubrazioni siano ben più applicabili ai normali taxi (o un qualsiasi mezzo in cui sei passeggero)?

Altra segha mentale: i transponder. NESSUNO HA MAI PARLATO DI USARE TRANSPONDER, non solo li avete tirati fuori voi ma state anche discutendo di "ma cosa succede se". Non succede niente perché nessuno userà mai i transponder, fine.

In ogni caso, per dare una risposta alle vostre ansie:
cosa succede se stai viaggiando con un'auto autonoma e intanto ti cade addosso un cavalcavia?

Muori.

Sono auto a guida autonoma, non sono auto magiche;
non è che potranno prevedere tutto, semplicemente saranno (sono) praticamente esenti da tutta quella serie di errori / distrazioni che noi umani commettiamo in continuazione;
poi si, se vediamo il cavalcavia ondeggiare noi ci fermiamo e loro no;
in altri termini saranno più sicure nel 99,99% dei casi, e poi sulle singole eccezioni falliranno, anche se è una cosa antipatica e se erano eccezioni prevedibili per un essere umano (che poi in casi di imprevisti azzecca sempre l'azione giusta, come no).

Guastulfo (Giuseppe) ha detto...

@SirEdward
No, quello sono sicuro che non ci potrebbe essere: immagina il malintenzionato (un pazzo, un ragazzino annoiato, un terrorista, una persona in preda a qualche forma di road rage) che scatena il "pulsante rosso" quando fa più comodo al suo pensiero malvagio, per fare male alle altre persone.

Ehm... oggi abbiamo il volante e l'acceleratore che agiscono esattamente come il "pulsante rosso" :-)

Di ragazzini annoiati che prendono l'auto, e ci muoiono pure, utilizzando i "pulsanti rossi" che ci sono oggi, purtroppo, ce ne sono già.

La facilità o meno di compiere un'azione la fa la persona non un pulsante: youtube è pieno di esempi.

Inoltre parlavo di fuga, non di investimento omicida: il computer potrebbe cercare comunque una manovra elusiva, poi potrebbe cercare di spostare fisicamente l'aggressore e, solo in ulima analisi, investirlo.

Poi è ovvio che se cambia il mezzo o la tecnologia cambiano anche le modalità di aggresione da parte dei delinquenti.

Un'auto a guida autonoma (proprio perché anche il criminale saprebbe del "pulsante rosso") verrebbe "aggredita" in un modo diverso rispetto ad un'auto tradizionale esattamente come oggi sarebbe "un po'" difficile assaltare un furgone portavalori come si faceva colle diligenze :-)

Resta il fatto che, secondo me, se un giorno ci saranno auto a guida autonoma, per avere dei veri vantaggi bisognerà che ci siano strade o corsie dedicate, ben separate dal resto del traffico, che consentiranno delle ottimizzazioni del flusso non applicabili in un ambiente misto. Ad esempio, le auto potrebbero viaggiare letteralmente attaccate l'una all'altra e a velocità superiori a quelle previste dal codice della strada. Ma questo, forse, è troppo in là nel futuro.

Fabio ha detto...

Io non penso "che ci vorrà mai". Io penso che sia assolutamente troppo complesso per la tecnologia attuale.

pgc ha detto...
Questo commento è stato eliminato dall'autore.
pgc ha detto...

Le auto a guida automatica sarebbero quindi "sitting duck" per i ladri.

Chiediamoci perché uno di solito assale sconosciuti? Spesso per rubargli ciò che hanno di valore. Perché non succede OGNI VOLTA che usciamo di casa a piedi, per esempio? Primo, perché questa attività presenta rischi: l'occasionale auto della poliziotto nei paraggi, il passeggero che ha una pistola con cui reagisce sparando, il passante armato che reagisce. E perché non tutti sono inclini ad atteggiamenti violenti ed antisociali.

Nel caso delle auto driverless - che probabilmente saranno soprattutto condivise visto che altrimenti non se ne sfrutterebbe un grande vantaggio - quello di andare da sole a prendere chi le richiede - immagino un bottone antipanico in collegamento con la polizia, da attivare per le emergenze, come avviene oggi sulla metro e sui treni.

A questo punto, puntare una pistola alla tempia per convincere una persona ad uscire da un veicolo che non può essere rubato facilmente visto che non può essere guidato dove si vuole senza essere tracciati, non dovrebbe essere molto più conveniente che puntarla al passante occasionale alla macchina qualsiasi ferma al semaforo, come avviene raramente ma ogni giorno.

Per carità, tutte ipotesi, ma pensare che questo sia un motivo valido per dire che le auto driverless sono una sciocchezza, non vi sembra un pochino azzardato? Probabile che questo tipo di furto possa avvenire qualche caso, ma con una frequenza non troppo diversa da quella dell'occasionale "portonazo" (attività piuttosto comune qui a Santiago) o all'aggressione di un poveraccio per strada, come avvenne tempo fa ad un mio ex collega di ALMA, scienziato valente e persona piacevolissima, e che ci ha purtroppo lasciato la vita: una bastonata in testa da dietro mentre camminava, per rubargli borsa e computer.

Credo fermamente che esista chi è molto bravo a sollevare obiezioni, e chi è bravo a risolvere i problemi. Abbiamo bisogno di entrambi per prevenire i rischi, ma preferisco far parte della seconda categoria.

Leggo tanti qui per esempio che si lambiccano il cervello per ostentare la non fattibilità di ogni novità tecnologica, convinti che sia la fine del mondo come lo hanno vissuto loro, ma senza rendersi conto che obiezioni simili sono state sollevate per molti degli oggetti che OGGI fanno parte del loro quotidiano. Pensate alla follia di un veicolo in grado di raggiungere una velocità che nessun essere umano ha mai sperimentato prima di un centinaio di anni fa. Pensate ad oggetti più pesanti dell'aria in grado di volare a migliaia di metri di altezza in un ambiente mortale in pochi secondo: un guasto meccanico... e non se ne esce vivi! Gli esempi sono interminabili. Pensate per un attimo all'idea di creare una piantina a risoluzione di qualche decina di cm di TUTTO il pianeta!! Ma chi mai potrebbe pensare che un problema del genere sia risolvibile???

Anche la guida driverless: ragazzi... ci sono fior di menti, decine e decine di centri di ricerca e compagnie che stanno investendo miliardi in questa tecnologia. Seriamente: ma come fate, anche solo per un attimo, a liquidare il tutto come una fesseria infattibile, senza avere la minima cognizione di quello che si sta facendo e di come lo si sta facendo? Quanti articoli pubblicati sulle soluzioni di riconoscimento ottico avete letto? La vostra personale "opinione" vale più del lavoro di migliaia di ricercatori? Il dubbio ci può stare, per carità, ma la CERTEZZA del contrario, come ho letto in diverse affermazioni... ma dai, un po' di umiltà per favore!

Claudio (l'altro) ha detto...

@Guastulfo e @Berto
Le Suore! Dimenticate le Suore!
Per me in Vaticano ci deve essere una scuola di guida pericolosa che distribuisce le patenti alle suore, probabilmente insegnando a invocare San Cristoforo prima di fare inversione a U in curva sullo spartitraffico in una strada a grande scorrimento.
Ma portano il cappello, quindi rientrano potenzialmente nella categoria "guidatori col cappello".

SirEdward ha detto...

@pgc

Le auto a guida automatica sarebbero quindi "sitting duck" per i ladri.

[..]Per carità, tutte ipotesi, ma pensare che questo sia un motivo valido per dire che le auto driverless sono una sciocchezza, non vi sembra un pochino azzardato?


pgc, se usi le mie parole come esempio per argomentare, potresti argomentare i miei pensieri e non quelli che ti fa più comodo attribuire agli altri?

Dopo la premessa: ho citato le "auto come sitting ducks" per far notare che esistono problemi legati alla guida autonoma che gli entusiasti spesso dimenticano (ed è una mancanza, mica una condanna...).

Esattamente come dimenticano i casi di rapine, rapimenti, attentati, ma anche solo aggressioni che avvengono ogni giorno in giro per il mondo e che un'auto a guida autonoma senza difese renderebbe più facili (il panic button... e intanto che aspetti i 20 minuti che la polizia ci mette ad arrivare... che fai?). Tra l'altro, non tutti i luoghi sono uguali: esistono luoghi dove puoi lasciare l'auto aperta per tutta la notte senza problemi e luoghi dove alle donne viene suggerito, per la loro sicurezza, di non fermarsi ai semafori rossi.

TUTTE le previsioni future devono tenere conto ANCHE di queste cose. Tutte cose che i facili entusiasmi dimenticano, di nuovo persi a fantasticare di auto driverless tutte connesse e in condivisione...

Al di là delle preferenze personali, finora è solo un bel sogno ad occhi aperti; quindi anche chi ti dicesse che secondo lui la guida autonoma è una stupidaggine non dovrebbe essere trattato come uno scemo solo perché a te piace sognare di fantascienza.

Per tagliare la testa al toro: secondo la mia opinione la guida autonoma è possibile e auspicabile, la guida a connessione totale è molto improbabile, la condivisione totale è una scemenza che cozza contro la psicologia e il comportamento umano e il divieto di guida umana è un delirio autoritario.

E non è che mi frega niente se qualcuno la pensa diversamente, non ho mica il monopolio della verità su questo: questo è il livello del pensiero libero, dell'immaginazione e del rispetto delle opinioni. Come la mia.

Opinione ben diversa, pare, dalle conclusioni che hai tratto tu partendo dalle mie parole.

martinobri ha detto...

Pensate ad oggetti più pesanti dell'aria in grado di volare a migliaia di metri di altezza in un ambiente mortale in pochi secondo: un guasto meccanico... e non se ne esce vivi!

Tu l'hai detto (brivido di terrore).

brain_use ha detto...

@Pgc:
liquidare il tutto come una fesseria infattibile

Parlo per me, naturalmente: mai detto che si tratti di una fesseria infattibile.

Si tratta di un serio problema - non solo tecnologico - ma non dubito che si arriverà a sistemi di guida perfettamente autonoma; sicuramente migliori nel momento in cui potranno contare sulla cooperazione degli altri veicoli attraverso la condivisione di informazioni e più sicuri nel momento in cui potranno anche contare sulla disponibilità di un minimo di informazioni già informaticizzate dall'infrastruttura, invece di dover rielaborare solo segnali fatti per l'occhio e la mente umana.

Quel che dico io è che adesso non siamo neanche lontanamente vicini al livello 4.

E che gente come Musk che spaccia un assistente alla guida per "autopilot" e che parla di funzioni di guida totalmente autonoma disponibili a luglio c.a. mi fanno francamente paura.
Taccio, per pudore, sul livello di stima che ho per chi usa il marketing in questa modalità particolarmente "aggressive".

Mammiiiinaaa?! ha detto...

@pgc: per favore, non mi parlare più di oggetti più pesanti dell'aria che volano a migliaia di metri d'altezza e possono cadere per un piccolo guasto meccanico fino a sabato pomeriggio: ho il moroso che deve tornare in aereo e non ho attributi da strizzare in noto gesto apotropaico...

contekofflo ha detto...

@pgc

Premessa: hai perfettamente ragione e posso sottoscrivere completamente il tuo commento.

Parlo per me, ma credo che in molti qui la pensino allo stesso modo: quando sollevo obiezioni o ipotizzo il caso peggiore per sottolineare i potenziali problemi della guida autonoma, non lo faccio perché credo che sia una fesseria infattibile o perché ho la presunzione di saperne di più dei ricercatori che ogni giorno ci lavorano. È semplicemente per sottolineare quanto OGGI siamo lontani dal traguardo e quanto grandi siano i problemi da affrontare.

Per rifarmi al tuo commento: se nel 1905, ispirato dai primi voli dei Wright, un imprenditore avesse prospettato ai suoi clienti la possibilità di voli intercontinentali supersonici, sarebbe stato un illuso o un profeta? Certo, nel 1976 ci si è poi arrivati, ma non credo che ad usufruire del servizio siano stati gli stessi clienti :-)

Oppure pensiamo ad un altro importantissimo problema di AI: la traduzione automatica. Nonostante decenni di lavoro dei maggiori scienziati, siamo ancora ben lontani dall'avere una traduzione automatica affidabile a livelli professionali e dobbiamo ancora tenerci stretti i traduttori umani come il nostro blogger :-)
Il che non significa che servizi come Google Translate siano inutili o che chi ci lavora sia un incompetente, anzi. Però OGGI siamo ancora lontani dall'obiettivo e conoscere i limiti ed i problemi degli attuali strumenti aiuta ad evitare di usarli in modo errato.

pgc ha detto...

Ripeto: sollevare dubbi sull'effettiva possibilità di avere driverless car sicure e funzionanti oggi è legittimo, ci mancherebbe. Fare affermazioni categoriche sulla IMPOSSIBILITA' di farlo senza avere profonde competenze in merito, è a mio parere inadeguato. Anche confrontare la situazione con le ben note difficoltà incontrate nell'implementare la traduzione automatica secondo me non è molto sensato, perché non è un caso che proprio in questo periodo c'è stato un notevole salto nella qualità della traduzione automatica negli ultimi 1-2 anni, e un notevole salto nella qualità della guida automatica nello stesso periodo. Pensate al disastro delle prime DARPA challenges di qualche anno fa.

martinobri ha detto...

suore, (...)
Ma portano il cappello, quindi rientrano potenzialmente nella categoria "guidatori col cappello".


Non è un cappello... :-D

granmarfone ha detto...

"Guidatore con il cappello"

ci sono situazioni aggravanti:
- guidatore con il cappello su NSU Prinz;
- guidatore con il cappello su NSU Prinz colore verde Prinz;
(ci sarebbe una ulteriore aggravante: NSU Prinz (qualsiasi colore…) targata CO - questa però è una "convenzione" regionale, anzi provinciale…).

Anche per le suore sono codificate situazioni particolari:
- suora alla guida della Fiat 600 Multipla (anni 1950-‘60); in seguito è subentrato il pulmino Fiat 850T.


Si fa per scherzo, eh!

Mammiiiinaaa?! ha detto...

Da noi, più che le suore, usa vecchietto con cappello e zanetta... ulteriore aggravante: la moglie accanto

granmarfone ha detto...

zanetta, cos'è?

Mammiiiinaaa?! ha detto...

Oggetto rigido diritto, per lo più di legno, con una estremità angolata, ricurva o foggiata ad impugnatura più o meno ergonomica, il cui uso è più diffuso nella popolazione più anziana... Cioè BASTONE. Da noi il vecchio con cappello, bastone e moglie accanto, prevalentemente su auto vecchia di piccola cilindrata è considerato il peggior flagello: in genere, oltre a procedere a passo d'uomo e in mezzo alla strada, oltre a tagliare le curve che neanche le chicane un pilota di formula 1, tende avere un modo fantasioso di interpretare sensi unici e tende ad accostare a destra per meglio effettuare la svolta a sinistra...