L’intelligenza artificiale e la fiducia, di Bruce Schneier

Ultimo aggiornamento: 2024/04/30 20:15. 

Questa è la mia traduzione integrale del saggio AI and Trust di Bruce Schneier, realizzata e pubblicata con il suo permesso. Una sintesi è pubblicata nel mio podcast. È disponibile anche una traduzione in tedesco, pubblicata da Netzpolitik.org.

L’intelligenza artificiale e la fiducia, di Bruce Schneier

Oggi mi sono fidato molto. Mi sono fidato che il mio telefono mi avrebbe svegliato in tempo. Mi sono fidato che Uber avrebbe predisposto un taxi per me e che il tassista mi avrebbe portato sano e salvo in aeroporto. Mi sono fidato che migliaia di altri conducenti per strada non avrebbero tamponato la mia auto. All’aeroporto mi sono fidato dei controllori al check-in, dei tecnici addetti alla manutenzione, di tutte le altre persone che mantengono operativa una compagnia aerea, del pilota dell’aereo sul quale ho volato, e di migliaia di altre persone in aeroporto e sull’aereo, ciascuna delle quali avrebbe potuto aggredirmi. E mi sono fidato di tutte le persone che mi hanno preparato e servito la colazione, e dell’intera filiera alimentare: qualunque anello di questa catena avrebbe potuto avvelenarmi. Quando sono atterrato qui, mi sono fidato di altre migliaia di persone: in aeroporto, sulla strada, in questo edificio, in questa sala. E tutto questo è avvenuto prima delle 10.30 di stamattina.

La fiducia è essenziale per la società. Gli esseri umani, come specie, tendono a fidarsi gli uni degli altri. Siamo tutti seduti qui, e per la maggior parte non ci conosciamo fra noi, e siamo fiduciosi del fatto che nessuno ci aggredirà. Se questa fosse una sala piena di scimpanzé, questo sarebbe impossibile. Noi ci fidiamo migliaia di volte al giorno. La società non potrebbe funzionare senza la fiducia. E il fatto che non ci facciamo neanche caso è una misura di quanto funzioni bene tutto questo.

In questo mio intervento proporrò numerose argomentazioni. La prima è che esistono due tipi differenti di fiducia, quella interpersonale e quella sociale, e che li confondiamo continuamente. La seconda è che questa confusione aumenterà con l’intelligenza artificiale: commetteremo un errore di categorizzazione fondamentale e penseremo alle intelligenze artificiali come amiche quando sono in realtà solo servizi. La terza è che le aziende che controllano i sistemi di intelligenza artificiale si approfitteranno della nostra confusione per sfruttarci e non saranno degne di fiducia. La quarta è che è compito del governo creare la fiducia nella società e quindi creare un ambiente che consenta una IA degna di fiducia. Questo comporta della regolamentazione: non dell’IA, ma delle organizzazioni che controllano e utilizzano l’IA.

Bene, facciamo un passo indietro e consideriamo tutte queste cose molto più lentamente. La fiducia è un concetto complicato e questa parola è sovraccarica di tanti significati. C’è la fiducia personale e intima. Quando diciamo che ci fidiamo di un amico o di un’amica, è più per com’è quella persona che per le cose specifiche che fa. Confidiamo che si comporterà in maniera degna di fiducia, ci fidiamo delle sue intenzioni e sappiamo che quelle intenzioni ispireranno le sue azioni. Questa possiamo chiamarla “fiducia interpersonale”.

Esiste anche la fiducia meno intima, meno personale. Magari non conosciamo qualcuno di persona oppure non ne conosciamo le motivazioni, ma possiamo fidarci del suo comportamento. Non sappiamo se qualcuno vuole derubarci oppure no, ma forse possiamo fidarci che non lo faranno. È più una questione di affidabilità e prevedibilità. Questa possiamo chiamarla “fiducia sociale”: la capacità di fidarsi degli sconosciuti.

La fiducia interpersonale e quella sociale sono entrambe essenziali nella società attuale. Funziona così: abbiamo meccanismi che inducono le persone a comportarsi in maniera degna di fiducia, sia a livello interpersonale, sia a livello sociale. Questo, a sua volta, permette agli altri di avere e dare fiducia, e questo rende possibile la fiducia nella società, e tutto questo permette alla società di continuare a funzionare. Il sistema non è perfetto: ci saranno sempre persone che abusano della nostra fiducia, ma il fatto che la maggior parte di noi sia degna di fiducia per la maggior parte del tempo è sufficiente.

Ho parlato di questi concetti nel 2012, in un libro intitolato Liars and Outliers, descrivendo quattro sistemi che rendono possibile la fiducia: i nostri valori morali innati, la preoccupazione per le nostre reputazioni, le leggi alle quali siamo soggetti e le tecnologie di sicurezza che vincolano il nostro comportamento. Ho scritto che le prime due sono più informali delle due successive, e che queste due successive sono più scalabili, consentono società più grandi e più complesse e rendono possibile la cooperazione tra sconosciuti.

Quello che non avevo considerato è quanto siano differenti le prime due dalle seconde. I valori morali e la reputazione valgono tra una persona e un’altra, sulla base dei rapporti umani, della reciproca vulnerabilità, sul rispetto, l’integrità, la generosità e molte altre cose, che sono i fondamenti della fiducia interpersonale. Le leggi e le tecnologie di sicurezza sono sistemi di fiducia che ci obbligano a comportarci in modo degno di fiducia, e costituiscono la base della fiducia sociale.

Fare il tassista una volta era uno dei mestieri più pericolosi in questo paese. Uber ha cambiato tutto. Non conosco il mio conducente Uber, ma le regole e la tecnologia danno a me e a lui la fiducia che nessuno di noi cercherà di truffare o attaccare l’altro. Siamo entrambi sotto continua sorveglianza e siamo in competizione per avere punteggi elevati.

Molta gente scrive a proposito della differenza tra vivere in una società che ha un livello di fiducia elevato e vivere in una che ha un livello basso, dicendo che l’affidabilità e la prevedibilità rendono tutto più semplice, e notando cosa si perde quando la società non ha queste caratteristiche. Si parla anche di come le società passano da livelli alti di fiducia a livelli bassi, e viceversa. Tutto questo si basa sulla fiducia sociale.

Questa letteratura è importante, ma per questo mio discorso il punto centrale è che la fiducia sociale è maggiormente scalabile [nel senso di “usabile su scala più ampia”, N.d.T.]. Un tempo serviva avere un rapporto personale con un funzionario di banca per ottenere un prestito. Oggi tutto questo si fa algoritmicamente e ci sono molte più opzioni tra cui scegliere.

La fiducia sociale è maggiormente scalabile ma incorpora ogni sorta di pregiudizio e preconcetto, perché per poter essere scalabile deve essere strutturata, orientata ai sistemi e alle regole, ed è a questo punto che vengono incorporati i pregiudizi. Inoltre il sistema deve essere reso quasi completamente insensibile al contesto, e questo gli toglie flessibilità.

Ma questa scala è fondamentale. Nella società attuale diamo regolarmente fiducia a governi, aziende, organizzazioni o gruppi, oppure ne diffidiamo. Non è che mi sono fidato dello specifico pilota che ha fatto volare il mio aereo; mi sono fidato della compagnia aerea, che mette in cabina di pilotaggio piloti ben addestrati e ben riposati. Non mi fido dei cuochi o camerieri al ristorante, ma semmai del sistema di norme sanitarie al quale sono soggetti. Non sono nemmeno in grado di descrivere il sistema bancario di cui mi sono fidato quando ho usato un Bancomat stamattina. Ancora una volta, questa fiducia non è altro che affidabilità e prevedibilità.

Pensate di nuovo a quel ristorante. Immaginate che sia un fast food che dà lavoro a dei teenager. Il cibo è quasi certamente sicuro – probabilmente più sicuro che in molti ristoranti di alto livello – a causa dei sistemi aziendali o dell’affidabilità e prevedibilità che guida ogni loro comportamento.

È qui che sta la differenza. Potete chiedere a un amico di consegnare un pacchetto dall’altra parte della città, oppure potete chiedere alle Poste di fare la stessa cosa. Nel primo caso si tratta di fiducia interpersonale, basata sulla moralità e sulla reputazione. Conoscete il vostro amico e sapete quanto è affidabile. Nel secondo abbiamo un servizio, reso possibile dalla fiducia sociale. E nella misura in cui è un servizio affidabile e prevedibile, si basa principalmente su leggi e tecnologie. Entrambi i metodi possono consegnare il vostro pacchetto, ma solo il secondo può diventare il sistema di corrieri di portata mondiale che è FedEx.

A causa dell’ampiezza e della complessità della società, abbiamo sostituito molti dei rituali e dei comportamenti tipici della fiducia interpersonale con meccanismi di sicurezza che garantiscono affidabilità e prevedibilità: la fiducia sociale.

Ma poiché usiamo lo stesso termine “fiducia” per entrambi i tipi, li confondiamo regolarmente. E quando lo facciamo, commettiamo un errore di categorizzazione.

Lo facciamo continuamente: con i governi, con le organizzazioni, con i sistemi di tutti i tipi, e soprattutto con le aziende.

Possiamo pensare a loro come amiche, quando in realtà sono servizi. Le aziende non sono morali; sono immorali, nella misura in cui la legge e la loro reputazione gliela fanno passare liscia.

Di conseguenza, le aziende si approfittano regolarmente dei loro clienti, maltrattano i loro lavoratori, inquinano l’ambiente e fanno pressioni per modificare le leggi in modo da poter fare queste cose ancora di più.

Sia il linguaggio che le leggi rendono facile commettere questo errore di categorizzazione. Usiamo la stessa grammatica per le persone e le aziende. Immaginiamo di avere rapporti personali con i marchi. Diamo alle aziende alcuni degli stessi diritti che diamo alle persone.

Alle aziende piace che commettiamo questo errore di categoria—noterete che l’ho appena fatto anch’io [attribuendo un sentimento a un’azienda, N.d.T.]—perché traggono profitto quando pensiamo a loro come amiche. Utilizzano mascotte e testimonial. Hanno account sui social media, e questi account hanno una propria personalità. Si riferiscono a loro stesse come se fossero persone.

Ma non sono nostre amiche: le aziende non sono in grado di avere questo tipo di relazione.

Stiamo per commettere lo stesso errore di categorizzazione con le intelligenze artificiali: le considereremo nostre amiche quando non lo sono.

È stato scritto molto a proposito delle intelligenze artificiali come rischio esistenziale: si teme che avranno un obiettivo e che si impegneranno per raggiungerlo anche se questo dovesse comportare danni per gli esseri umani. Avete forse letto del “massimizzatore di fermagli” [o paperclip maximizer, ne ho parlato in questo articolo, N.d.T.]: una IA che è stata programmata per fabbricare il maggior numero possibile di fermagli e finisce per distruggere la Terra per raggiungere il proprio obiettivo. È una paura strana. Ne scrive l’autore di fantascienza Ted Chiang. Invece di risolvere tutti i problemi dell’umanità, o vagare dimostrando teoremi matematici che non capisce nessuno, l’IA persegue in modo monomaniacale l’obiettivo di massimizzare la produzione. Chiang intende dire che questo è il business plan di qualunque azienda, e che le nostre paure verso l’IA sono in sostanza paure del capitalismo. L’autore di fantascienza Charlie Stross si spinge un passo più in là e chiama le aziende “IA lenta.” SOno macchine per la massimizzazione del profitto, e quelle di maggior successo fanno tutto quello che possono per conseguire quell’unico obiettivo.

E le intelligenze artificiali del prossimo futuro saranno controllate dalle aziende, che le useranno per raggiungere quell’obiettivo di massimizzare il profitto. Non saranno nostre amiche: nel caso migliore saranno servizi utili. Più probabilmente, ci spieranno e cercheranno di manipolarci.

Questa non è una novità. La sorveglianza e la manipolazione sono il modello di business di Internet.

I risultati delle vostre ricerche in Google sono preceduti da URL che qualcuno ha pagato per mostrarvi. I vostri feed di Facebook e Instagram sono pieni di post sponsorizzati. Le ricerche su Amazon restituiscono pagine di prodotti i cui venditori hanno pagato per essere piazzati in quelle pagine.

Questo è il modo in cui funziona Internet. Le aziende ci spiano mentre utilizziamo i loro prodotti e servizi. I broker di dati acquistano i dati di sorveglianza dalle aziende più piccole e creano dossier dettagliati su di noi. Poi rivendono queste informazioni a queste e altre aziende, che le combinano con i dati raccolti da loro per manipolare il nostro comportamento, al servizio dei loro interessi e a spese dei nostri interessi.

Utilizziamo tutti questi servizi come se fossero nostri agenti, che lavorano per noi. In realtà, sono agenti doppiogiochisti, che lavorano segretamente anche per i loro proprietari aziendali. Ci fidiamo di loro, ma non sono degni di fiducia. Non sono amici, sono servizi.

Non sarà diverso con l’intelligenza artificiale, e il risultato, sarà molto peggiore, per due motivi.

Il primo motivo è che questi sistemi di intelligenza artificiale saranno più relazionali. Converseremo con loro, utilizzando il linguaggio naturale. E così attribuiremo loro spontaneamente delle caratteristiche simili a quelle umane.

Questa natura relazionale renderà più facile il lavoro di questi doppiogiochisti. Il vostro chatbot vi ha consigliato una particolare compagnia aerea o un hotel perché è davvero l'offerta migliore, in base alle vostre particolari esigenze, o perché l'azienda di intelligenza artificiale ha ricevuto una tangente da quei fornitori? Quando gli avete chiesto di spiegare una questione politica, ha orientato la sua spiegazione verso la posizione dell'azienda, o del partito politico che le ha dato più soldi? L'interfaccia conversazionale aiuterà a nascondere le loro intenzioni.

Il secondo motivo di preoccupazione è che queste intelligenze artificiali saranno più intime. Una delle promesse dell'intelligenza artificiale generativa è un assistente digitale personale, che agisce come vostro rappresentante verso gli altri e come maggiordomo con voi. Questo richiede un'intimità maggiore rispetto a un motore di ricerca, a un provider di e-mail, a un sistema di archiviazione cloud o a un telefono. Desidererete che questo assistente sia con voi 24 ore su 24, 7 giorni su 7, e che si istruisca costantemente su tutto ciò che fate. Sarete voi a volere che sappia tutto di voi, in modo da poter lavorare nel modo più efficace per vostro conto.

E questo assistente vi aiuterà in molti modi. Noterà i vostri stati d'animo e saprà cosa suggerirvi, anticiperà le vostre esigenze e lavorerà per soddisfarle. Sarà il vostro terapeuta, life coach e consulente relazionale.

Vi verrà spontaneo considerarlo un amico: vi rivolgerete a lui in linguaggio naturale, e lui farà lo stesso con voi. Se è un robot, avrà un aspetto umanoide o almeno simile a un animale. Interagirà con tutta la vostra esistenza, proprio come farebbe un’altra persona.

Il suo uso del linguaggio naturale è decisivo, in questo caso, perché siamo portati automaticamente a pensare agli altri che parlano la nostra lingua come persone, mentre a volte abbiamo problemi a trattare come persone chi parla una lingua diversa dalla nostra. Commettiamo questo errore di categorizzazione con le entità che chiaramente non sono persone, come i personaggi dei cartoni animati. Naturalmente avremo una “teoria della mente” a proposito di qualunque IA con la quale parliamo.

Più specificamente, noi tendiamo a presumere che l’implementazione di una cosa coincida con la sua interfaccia: in altre parole, presumiamo che l’aspetto di superficie rispecchi il contenuto interiore. Gli esseri umani sono fatti così: siamo persone in tutto e per tutto. Un governo è interiormente sistemico e burocratico: quando vi interagite, non lo scambierete per una persona. Ma questo è l’errore di categorizzazione che commettiamo con le aziende. A volte scambiamo l’azienda per il suo portavoce. L’IA ha un’interfaccia pienamente relazionale, perché parla come una persona, eppure ha un’implementazione pienamente sistemica. Come un’azienda, ma molto di più. L’implementazione e l’interfaccia sono di gran lunga più divergenti che in qualunque altra cosa abbiamo mai incontrato. 

E vorrete fidarvi di questo assistente, che userà i vostri stessi modi di fare e riferimenti culturali, avrà una voce convincente, un tono sicuro e un modo di fare autorevole. La sua personalità sarà ottimizzata esattamente su ciò che vi piace e a cui reagite.

Si comporterà in modo affidabile, ma non sarà affidabile. Non sapremo come è stata addestrata, quali sono le sue istruzioni segrete o i suoi pregiudizi, accidentali o intenzionali.

Sappiamo però che queste intelligenze artificiali vengono create con costi enormi, per lo più in segreto, da aziende che massimizzano il profitto per il proprio beneficio.

Non è un caso che queste intelligenze artificiali aziendali abbiano un’interfaccia simile a quella umana. Non è inevitabile: è una scelta progettuale. Le si potrebbe progettare per essere meno personali, meno simili all’essere umano, più dichiaratamente dei servizi, come i motori di ricerca. Le aziende che stanno dietro queste intelligenze artificiali vogliono che commettiate l’errore di categorizzazione amico/servizio. Sfrutteranno il fatto che le scambiate per amiche, e potreste non avere altra scelta che usarle.

C’è una cosa che non abbiamo discusso quando si tratta di fiducia: il potere. A volte non abbiamo altra scelta che fidarci di qualcuno o qualcosa perché è potente. Siamo costretti a fidarci della polizia locale, perché è l’unica autorità di polizia in città. Siamo costretti a fidarci di alcune aziende, perché non ci sono alternative valide. Per essere più precisi, non abbiamo scelta se non affidarci a loro. Ci troveremo nella stessa posizione con le intelligenze artificiali: non avremo altra scelta che affidarci ai loro processi decisionali.

La confusione amico/servizio ci aiuterà a mascherare questa disparità di potere. Dimenticheremo quanto sia potente l’azienda che sta dietro l’intelligenza artificiale, perché ci fisseremo sulla “persona” che pensiamo che l’intelligenza artificiale sia.

Fin qui abbiamo parlato di un particolare tipo di fallimento che deriva dalla fiducia eccessiva nell’IA. Possiamo chiamarla per esempio “sfruttamento occulto”, e ce ne sono altri. C'è la frode vera e propria, in cui l’intelligenza artificiale sta effettivamente cercando di rubarvi qualcosa. C'è il più prosaico errore di competenza, in cui pensate che questa intelligenza artificiale sia più esperta di quanto non sia realmente, perché si comporta ostentando sicurezza. C'è l'incompetenza, quando si crede che l’intelligenza artificiale sia in grado di fare qualcosa che non è in grado di fare. C'è l'incoerenza, quando ci si aspetta erroneamente che una intelligenza artificiale sia in grado di ripetere i propri comportamenti. E c'è l'illegalità, quando si confida, erroneamente anche qui, che l'intelligenza artificiale rispetti la legge. Probabilmente ci sono anche altri modi in cui fidarsi di una IA può portare al fallimento.

Tutto questo è un modo prolisso di dire che abbiamo bisogno di un'intelligenza artificiale affidabile, di cui si conoscano il comportamento, i limiti e l’addestramento [training in senso tecnico, N.d.T.], i cui pregiudizi siano compresi e vengano corretti, di cui si capiscano gli obiettivi e che non tradirà segretamente la vostra fiducia a favore di qualcun altro.

Il mercato non fornirà spontaneamente queste cose, perché le aziende massimizzano i profitti, a spese della società. E gli incentivi del capitalismo di sorveglianza sono troppo forti per resistere.

Sono invece i governi a fornire i meccanismi di base per la fiducia sociale, che è essenziale per la società. Pensiamo al diritto contrattuale, alle leggi sulla proprietà, alle leggi che proteggono la vostra sicurezza personale e a tutte le norme di salute e sicurezza che vi permettono di salire su un aereo, mangiare al ristorante o acquistare un farmaco senza preoccupazioni.

Più puoi fidarti che le tue interazioni sociali siano affidabili e prevedibili, più puoi ignorarne i dettagli. I paesi nei quali i governi non forniscono queste cose non sono bei posti dove vivere.

I governi possono fare tutto questo per l’intelligenza artificiale. Abbiamo bisogno di leggi sulla trasparenza dell'intelligenza artificiale: quando viene utilizzata, come viene addestrata, quali pregiudizi e tendenze ha. Ci servono leggi che regolino la sicurezza dell'intelligenza artificiale e della robotica e dicano quando è permesso che l’intelligenza artificiale abbia un impatto sul mondo. Abbiamo bisogno di leggi che impongano l'affidabilità dell'intelligenza artificiale, il che significa la capacità di riconoscere quando queste leggi vengono infrante. E servono sanzioni sufficientemente elevate da incentivare un comportamento affidabile.

Molti Paesi stanno valutando leggi sulla sicurezza delle intelligenze artificiali – l'Unione Europea è la più avanti – ma stanno commettendo un errore cruciale: cercano di regolamentare le intelligenze artificiali e non gli esseri umani che vi stanno dietro.

Le intelligenze artificiali non sono persone: non hanno agentività [nella teoria sociocognitiva, la facoltà di far accadere le cose, di intervenire sulla realtà, di esercitare un potere causale, N.d.T.]. Sono costruite, addestrate e controllate da persone. Principalmente da aziende a scopo di lucro. Qualunque regolamentazione dell’IA deve imporre restrizioni a queste persone e queste aziende, altrimenti le norme commettono lo stesso errore di categorizzazione di cui stavo parlando. In ultima analisi, c’è sempre un essere umano responsabile di qualunque comportamento dell’IA. Ed è quell’essere umano che deve essere responsabile di quello che fa e di quello che fanno le sue aziende, a prescindere dal fatto che sia colpa degli esseri umani, dell’IA, o di una combinazione di entrambi. Forse questo non sarà vero per sempre, ma lo sarà nell’immediato futuro. Se vogliamo un'intelligenza artificiale affidabile, dobbiamo richiedere controllori dell'intelligenza artificiale affidabili.

Abbiamo già un sistema per queste cose: i fiduciari. Ci sono settori della società nei quali l’affidabilità è di importanza vitale, ancora più del solito. Medici, avvocati, commercialisti... sono tutti agenti di fiducia. Hanno bisogno di un accesso straordinario alle nostre informazioni e a noi stessi per svolgere il loro lavoro, e quindi hanno ulteriori responsabilità legali per agire nel nostro migliore interesse. Hanno una responsabilità fiduciaria nei confronti dei loro clienti.

Abbiamo bisogno della stessa cosa per i nostri dati. L'idea di un fiduciario dei dati non è nuova, ma è ancora più vitale in un mondo di assistenti di intelligenza artificiale generativi.

E ci serve un’ultima cosa: dei modelli di intelligenza artificiale pubblici. Sistemi costruiti dal mondo accademico, da gruppi non profit o dal governo stesso, che possono essere posseduti e gestiti dai singoli individui.

Il termine “modello pubblico” è stato usato ampiamente nel mondo dell’IA, per cui vale la pena di spiegare in dettaglio cosa significa. Non si tratta di un modello di intelligenza artificiale aziendale che il pubblico è libero di utilizzare. Non è un modello di intelligenza artificiale aziendale che il governo ha concesso in licenza. Non è nemmeno un modello open source che il pubblico è libero di esaminare e modificare.

Un modello pubblico è un modello costruito dal pubblico per il pubblico. Richiede una responsabilità politica, non solo una responsabilità di mercato [nel senso di “accountability”, ossia l’obbligo di rendere conto del proprio operato, N.d.T.].

Ciò significa apertura e trasparenza, abbinate alla capacità di rispondere alle richieste del pubblico. Dovrebbe anche essere disponibile, quest’intelligenza artificiale, a chiunque per costruirci sopra. Ciò significa accesso universale, e costituisce una base per un libero mercato delle innovazioni nell’intelligenza artificiale. Tutto questo sarebbe un contrappeso all'intelligenza artificiale di proprietà delle aziende.

Non potremo mai trasformare le intelligenze artificiali in nostri amici, ma possiamo trasformarle in servizi degni di fiducia e non doppiogiochisti. Però possiamo farlo solo se il governo lo impone. Possiamo mettere dei limiti al capitalismo della sorveglianza, ma solo se il governo lo impone.

Perché lo scopo del governo è creare fiducia sociale. Ho iniziato questo mio intervento spiegando l’importanza della fiducia nella società e il fatto che la fiducia interpersonale non è scalabile su gruppi più grandi. Quello che creano i governi è l’altro tipo di fiducia: la fiducia sociale, l’affidabilità e la prevedibilità.

Nella misura in cui un governo migliora la fiducia generale nella società, ha successo. E nella misura in cui non lo fa, fallisce. 

Ma deve farlo. Abbiamo bisogno che il governo limiti il comportamento delle aziende e delle intelligenze artificiali che le aziende costruiscono, distribuiscono e controllano. Il governo deve imporre sia prevedibilità che affidabilità.

È così che possiamo creare la fiducia sociale di cui la società ha bisogno per prosperare.

Cory Doctorow e la enshittification: perché i servizi online e i social network commerciali diventano tutti tossici. Metaverso compreso

Questo articolo è stato trasferito qui.

Genitori mandano ai medici foto dei figli malati, finiscono indagati per molestie su minori. Li ha denunciati Google

Questo articolo è disponibile anche in versione podcast audio.

Immaginate che vostro figlio piccolo abbia un problema alla pelle, come può capitare per mille ragioni, e che il vostro medico vi chieda di mandargli una foto della zona affetta per fare un consulto rapido e partire subito con la terapia in attesa della visita di persona. È una richiesta comune, soprattutto in questo periodo di contatti sociali necessariamente ridotti e con lo sviluppo dei servizi di telemedicina.

Ora immaginate che questo semplice, banale gesto possa farvi bloccare tutti i servizi di Google, dalla mail all’agenda all’archivio delle foto e dei video di famiglia, e addirittura farvi mettere sotto indagine da parte della polizia.

È esattamente quello che è successo realmente a due genitori a febbraio 2021 negli Stati Uniti. La loro unica colpa è stata aver scattato le foto in questione con uno smartphone associato a un account Google. 

Come racconta il New York Times, che ha scoperto questi incidenti, le fotografie inviate ai rispettivi medici ritraevano la zona genitale dei figli, ed erano state copiate automaticamente ai server di Google, dove erano state etichettate dai sistemi automatici con una sigla terribile ma poco conosciuta: CSAM. Sono le iniziali di child sexual abuse material, ossia “materiale relativo ad abusi sessuali su bambini”. I due genitori (uomini di due famiglie distinte), erano stati classificati automaticamente come pedopornografi, e segnalati da Google alla polizia locale, che aveva avviato le indagini del caso.

Il loro incubo è durato alcuni mesi: in entrambi i casi la polizia ha confermato che non era stato commesso alcun reato, ma Google è stato irremovibile e non ha ripristinato gli account delle due vittime del suo eccesso di zelo.

Queste due vicende, nota un articolo della Electronic Frontier Foundation, un’importante associazione per la difesa dei diritti digitali dei cittadini, dimostrano nella maniera peggiore il fatto che i messaggi privati, i file e le fotografie di comuni cittadini vengono esaminati sempre più spesso dalle grandi aziende informatiche a titolo preventivo, senza ci sia alcun sospetto o mandato di inquirenti. 

Sistemi automatici come PhotoDNA di Microsoft e Content Safety API e CSAI Match di Google, usati da tutti i principali fornitori di servizi digitali, da Facebook a Reddit, identificano ogni anno milioni di immagini di questo genere e producono centinaia di migliaia di segnalazioni in tutto il mondo. Ma lo fanno compiendo l’equivalente digitale di una perquisizione a tappeto. E ogni tanto sbagliano.

Il traffico di immagini di abusi su minori è un problema gravissimo, che per molte persone e in molti ordinamenti giuridici giustifica questo tipo di perquisizione digitale di massa; lo giustifica per esempio, appunto, negli Stati Uniti, con il cosiddetto EARN IT Act, e probabilmente lo giustificherà prossimamente anche nell’Unione Europea, stando a una proposta in corso di valutazione.

Ma anche i casi di falsi positivi, come quelli descritti dal New York Times, sono problematici, perché mostrano che i grandi nomi di Internet svolgono questo importantissimo pattugliamento affidandosi troppo a questi filtri automatici e a esaminatori umani inadeguati, senza offrire a chi viene infamato per errore la possibilità di contattare un essere umano che valuti la situazione, e senza accettare neppure un rapporto di polizia che scagioni chi è stato accusato ingiustamente. I grandi nomi di Internet sono insomma investigatori, giudici ed esecutori delle proprie sentenze inappellabili. Il New York Times ha contattato Google in merito a questi due genitori accusati e condannati ingiustamente, ma non è servito a nulla. E non si sa quante volte accadano questi falsi positivi o quante persone danneggino.

Il problema, nota ancora la Electronic Frontier Foundation, non è tecnico: i sistemi di riconoscimento delle immagini hanno un tasso di errore molto basso, come confermano gli addetti ai lavori che hanno il compito non invidiabile di controllare tutto quello che viene segnalato da questi software. Il problema è organizzativo: qui ha fallito il processo umano di riesame dei singoli casi e hanno fallito le procedure decise da Google che prevedono il blocco permanente dei dati, senza appello.

E va detto che anche il tasso di errore migliore del mondo, se viene applicato a miliardi di foto, produrrà milioni di falsi positivi. La EFF segnala uno studio di Facebook su 150 account segnalati alle autorità per presunto contenuto relativo ad abusi su minori, che ha scoperto che il 75% di questi account era innocente. La stessa Foundation nota che LinkedIn ha segnalato alle autorità dell’Unione Europea 75 account nell’ultimo semestre del 2021, ma solo 31 di questi sono stati confermati come colpevoli da un riesame manuale.

Un celebre caso di errore di riconoscimento dei filtri di Facebook nel 2012.

La vigilanza contro questi reati terribili è chiaramente indispensabile, ma va fatta con gli strumenti giusti e con procedure che garantiscano che non ci vadano di mezzo degli innocenti.

Per il momento, la vicenda dei due genitori additati senza colpa sottolinea una cosa che dimentichiamo molto spesso: tutto quello che salviamo nel cloud può essere letto, e quasi sicuramente verrà letto, dai grandi fornitori di questi servizi, e potrebbe essere capito male. Teniamolo presente quando scriviamo online delle confidenze o dei documenti sensibili. Facciamo una copia di scorta locale, perché potremmo perdere tutto quello che abbiamo online senza preavviso. E se abbiamo bisogno di scattare foto che potrebbero essere fraintese da un filtro automatico troppo zelante, lasciamo stare cloud e smartphone e procuriamoci una normale macchina fotografica. Digitale, per carità, ma che non vada su Internet.

Paghereste un canone di abbonamento per poter scaldare i sedili della vostra auto? Con BMW si può

Questo articolo è disponibile anche in versione podcast audio.

Chi lavora con l’informatica è abituato da tempo all’idea di comperare un programma e poi pagare degli abbonamenti o dei supplementi per attivarne alcune funzioni extra. Ma da qualche tempo questo modello commerciale si è esteso anche alle automobili.

È di questi giorni la notizia che nel Regno Unito BMW ha iniziato a offrire il riscaldamento dei sedili e del volante in abbonamento. I componenti fisici del sistema di riscaldamento sono installati di serie, ma per attivarli è necessario pagare un canone mensile di 15 sterline (circa 18 euro o franchi svizzeri), più altre 10 sterline (circa 12 euro o franchi) per attivare anche il riscaldamento del volante. In alternativa si può pagare un supplemento, al momento dell’acquisto, di 200 sterline (grosso modo 230 euro o franchi). Anche il cruise control attivo, gli abbaglianti automatici e le sospensioni adattive sono installati ma attivati solo a pagamento.

Può sembrare assurdo che una casa automobilistica installi di serie dei componenti che il cliente non paga se non li attiva: in fin dei conti, questi componenti hanno un costo di fabbricazione e di installazione, per cui metterli su tutti i veicoli e poi sperare che il cliente paghi per attivarli parrebbe a prima vista un autogol commerciale. Ma nella produzione di massa capita spesso che installare i componenti su tutti gli esemplari costi meno che gestire due o più filiere di produzione separate, con tutti i relativi problemi di logistica, burocrazia e controllo qualità.

BMW non è l’unica marca a preinstallare hardware da sbloccare pagando un canone tramite un’app, in una sorta di App Store per automobili che chiama Connected Drive Store. Tesla, per esempio, offre da tempo vari servizi supplementari di aumento delle prestazioni che sono basati su un canone e propone anche un sistema di assistenza di guida i cui computer e sensori sono presenti in ogni esemplare venduto ma si attivano soltanto pagando un supplemento che parte da 3700 franchi (o euro equivalenti) e può superare i 7000; in passato ha offerto anche batterie la cui autonomia era limitata via software e poteva essere sbloccata pagando un supplemento di circa 8000 dollari. E Stellantis ha annunciato a gennaio 2021 che si aspetta di ricavare circa 22 miliardi di dollari l’anno dalla vendita di software e abbonamenti sulle proprie automobili entro il 2030. Anche Volkswagen, General Motors e Ford fanno previsioni analoghe. E già ora GM offre il proprio sistema di assistenza di guida su abbonamento: i primi tre anni sono gratuiti, poi si devono pagare 25 dollari al mese.

L’introduzione di questi servizi in abbonamento non è stata accolta dal pubblico con unanime entusiasmo, per dirla con garbo. L’annuncio dei sedili riscaldati a pagamento sulle BMW ha suscitato parecchie discussioni online da parte di utenti che ritengono che funzioni così basilari dovrebbero essere offerte di serie, e un sondaggio della società di marketing Cox Automotive indica che i tre quarti dei partecipanti dichiara di non essere disposta a pagare canoni mensili per le funzioni della propria auto. Kurt Opsahl, consulente legale della Electronic Frontier Foundation, ha tweetato che “Un riscaldatore di sedili bloccato tramite software è guasto, e il proprietario dell’auto dovrebbe avere il diritto di riparare i propri sedili”.

Le case automobilistiche ribattono facendo notare che questa formula consente al cliente di cambiare idea dopo l’acquisto, di provare funzioni delle quali è incerto, ed è utile per chi compra auto di seconda mano e può quindi attivare funzioni che il proprietario originale non aveva pagato.

With our 'Functions on-demand', customers can opt for additional functions after they purchased a car. Heated seats for example can be ordered with the car (without additional fees afterwards) or added later on depending on model and equipment through the online store.

— BMW (@BMW) July 19, 2022

Nel frattempo gli informatici non sono rimasti con le mani in mano ed è nata una fiorente comunità di hacking che sblocca le funzioni delle auto bloccate tramite software, esattamente come si fa con i programmi per computer limitati artificialmente. In alcuni casi questi sblocchi automobilistici alternativi sono a pagamento, ma la loro legalità è molto controversa: da un lato si invoca il diritto di riparare ciò che si possiede, ma dall’altro si fa notare che certe modifiche che toccano componenti essenziali del veicolo possono invalidarne l’omologazione o, peggio ancora, renderlo pericoloso per il conducente e per gli altri utenti della strada.

C’è anche un altro problema: i servizi di questo tipo, che dipendono da un server di gestione remota, sono revocabili o possono semplicemente smettere di funzionare dopo che sono stati pagati. Non è teoria: è quello che mi è capitato personalmente già nel 2020, quando stavo per acquistare un’auto elettrica della Opel ma ho scoperto che la sua app di gestione, OnStar, avrebbe smesso di funzionare a fine anno, disattivando permanentemente funzioni essenziali come il monitoraggio dello stato di avanzamento della ricarica e la chiamata automatica ai servizi di soccorso in caso di incidente.

In altre parole, le cose che compriamo, comprese le auto, non sono più realmente nostre. Ed è per questo che nascono organizzazioni e iniziative per la difesa di quei diritti digitali che sembrano così astratti e invece si rivelano profondamente concreti.

Fonti: BBC, Mashable, The Register.

“Facebook è un’azienda marcia”: Cory Doctorow spiega perché. Documentando i danni

I danni sociali causati da Facebook sono ampiamente sottostimati e spesso ignorati. Traduco qui un magistrale, implacabile thread Twitter di Cory Doctorow su questo tema, che si può leggere integralmente in originale anche qui su Pluralistic.net. Mi sono permesso di aggiungere alcuni link e alcune note di chiarimento. Eventuali errori e refusi sono solo colpa mia.

Se non sapete chi è Cory Doctorow (blogger, autore di fantascienza, saggista pluripremiato), leggete la sua biografia su Wikipedia e gli altri suoi scritti che ho tradotto: il caso Sony XCP (2006), perché i computer generici spariranno (2012), perché bandire la crittografia è una misura antiterrorismo inutile (2017) Zuckerberg e l’incoscienza morale (2018), l’articolo 13 spiegato da un racconto (2018). 

Se i suoi toni vi sembrano esagerati o complottisti, tenete presente che sono quelli di chi cerca di mettere in guardia da anni contro un pericolo all’orizzonte, è stato allegramente ignorato e l’ha visto arrivare e diventare realtà. Lasciateli da parte e concentratevi sulla sostanza.

Facebook è un’azienda marcia; marcia a partire dalla testa. Il suo fondatore, il suo consiglio d’amministrazione e i suoi massimi dirigenti sono delle persone sociopatiche e dei mostri che commettono crimini contro l’umanità (detto senza iperboli e senza prenderci in giro). Mentono, barano, rubano. Sono fra i più grandi criminali della storia.

Dato che Facebook è un’azienda orribile gestita da persone orribili, periodicamente esplode generando uno scandalo atroce. A volte i whistleblowers (lanciatori d’allerta) o i giornalisti rivelano crimini storici, compreso l’aiuto intenzionale a fomentare il genocidio (senza però limitarsi a questo).

A volte questi scandali sono attuali: Facebook annuncia allegramente che farà qualcosa di orribile, oppure veniamo a sapere di qualcosa di orribile in corso, grazie alle fughe di notizie o alle indagini.

Grazie a un passato di fusioni anticoncorrenziali (WhatsApp, Instagram, Onavo e altre) basato su promesse fraudolente agli enti di sorveglianza antitrust, Facebook è cresciuta fino ad avere quasi tre miliardi di utenti. Solo che Facebook in realtà non ha utenti: ha ostaggi.

https://www.eff.org/deeplinks/2020/07/dont-believe-proven-liars-absolute-minimum-standard-prudence-merger-scrutiny

Come dimostrato dai documenti interni di Facebook stessa, l’azienda non solo compera i concorrenti in modo che gli utenti non abbiano un altro luogo dove fuggire, ma introduce intenzionalmente dei “costi di migrazione” (switching costs) elevati in modo che lasciare il sistema sia più doloroso.

https://www.eff.org/deeplinks/2021/08/facebooks-secret-war-switching-costs

Per esempio, i documenti interni di Facebook mostrano che il suo responsabile per i prodotti fotografici decise di sedurre gli utenti in modo che affidassero a Facebook le proprie foto di famiglia, perché in questo modo lasciare Facebook avrebbe comportato perdere i ricordi dei figli, dei nonni scomparsi, eccetera.

Tutti odiano Facebook, specialmente i suoi utenti. Lo scopo dei costi di migrazione elevati, dopotutto, è aumentare la sofferenza per chi migra, in modo che Facebook possa infliggere ulteriori abusi ai propri utenti senza temere che se ne vadano e lascino perdere tutto.

La missione di Facebook è aumentare le dimensioni del panino farcito di merda (shit sandwich) che ti può forzare a mangiare prima che tu decida di andartene. Ma l’azienda non è una semplice sadica: i panini farciti di merda hanno un modello commerciale. Più ostaggi riesce a prendere, più può spillare agli inserzionisti. Che sono i veri clienti di Facebook.

Il termine educato per quello che ha Facebook è “mercato a due facce” (two-sided market): vendere gli inserzionisti agli utenti e gli utenti agli inserzionisti. Il termine tecnico è “monopolio e monopsonio” (un monopsonio è un mercato che ha un singolo acquirente).

Il termine colloquiale è “racket”. Truffa. Piaga. Bezzle.

[bezzle è un termine coniato dall’economista John Kenneth Galbraith negli anni Cinquanta del secolo scorso per indicare un’appropriazione indebita (embezzlement) non ancora scoperta; è in sostanza l’intervallo di tempo fra quando il truffatore ottiene il proprio guadagno illecito e il momento in cui il truffato percepisce di essere stato truffato]

Facebook spenna gli inserzionisti sulle rate card [tariffari delle inserzioni], poi mente a proposito del reach [portata] delle proprie pubblicità (come quando mentì sulla popolarità dei video, mostrando una “svolta ai video” [pivot to video] in tutti i mezzi di comunicazione che portò alla bancarotta decine di siti di notizie e di intrattenimento).

Facebook non partì con l’intento di distruggere il giornalismo manipolando i prezzi delle inserzioni, mentendo agli inserzionisti e ai produttori di media. Partì con l’intento di acquisire un monopolio e di estrarre pigioni da monopolio dagli inserzionisti e dagli editori, con un’indifferenza patologica ai danni che queste frodi avrebbero causato agli altri.

Avendo dimostrato di essere disposta a distruggere i giornalisti e i produttori di media pur di estrarre qualche miliardo in più per i propri azionisti, Facebook si è fatta parecchi nemici nei media.

Se sei un whistleblower che ha una storia da raccontare, c’è un giornalista il cui direttore allocherà le risorse necessarie a scrivere in dettaglio la tua storia. La combinazione di un’azienda marcia e di un gran numero di giornalisti incazzati produce molta stampa negativa per l’azienda.

Ma resta il fatto che Facebook ha un vasto bacino di ostaggi, a miliardi, e decide cosa vedono e quando e come lo vedono. Un tempo dicevo, scherzando con i miei amici attivisti per i diritti umani, che l’uso migliore di Facebook è mostrare alla gente come e perché abbandonare Facebook.

La risposta di Facebook è stata prevedibile. Come scrivono Ryan Mac e Sheera Frenkel sul New York Times, il Project Amplify di Facebook è un’iniziativa, diretta da Zuckerberg, per promuovere sistematicamente la copertura positiva di Facebook e del suo fondatore, compresi articoli generati da Facebook stessa.

https://www.nytimes.com/2021/09/21/technology/zuckerberg-facebook-project-amplify.html

In altre parole, alcuni dipendenti di Facebook hanno l’incarico di scrivere soffietti, ossia articoli che esaltano quanto è grande l’azienda, e l’algoritmo di Facebook pompa questi articoli rispetto a quelli dei veri giornalisti che presentano resoconti dettagliati, documentati e con fonti multiple della condotta fraudolenta e depravata dell’azienda.

Il Project Amplify è una svolta rispetto alla politica di Facebook, durata a lungo, di pubblicare scuse non sincere per i propri scandali. Fonti dell’azienda hanno detto ai giornalisti che tutti hanno capito che queste scuse non convincono più nessuno, per cui l’azienda è passata a spingere rosee ciarlatanerie.

Uno dei dirigenti di questo progetto è Alex Schultz, "un veterano in azienda da 14 anni che è stato nominato chief marketing officer l’anno scorso," ma l’impulso principale proviene da Zuckerberg stesso, uno degli uomini più odiati del pianeta.

Amplify è semplicemente una delle strategie di Facebook per distorcere il dibattito riguardante l’azienda. A luglio ha castrato Crowdtangle, uno strumento di analytics ampiamente utilizzato, che dimostrava che i post più popolari di Facebook erano la disinformazione demenziale di estrema destra e le cospirazioni.

https://pluralistic.net/2021/07/15/three-wise-zucks-in-a-trenchcoat/#inconvenient-truth

Inoltre Facebook ha dichiarato guerra legale senza quartiere (accompagnata da una campagna di disinformazione) per far fuori Adobserver, un progetto della New York University che traccia la disinformazione politica pagata sulla piattaforma.

https://pluralistic.net/2021/08/05/comprehensive-sex-ed/#quis-custodiet-ipsos-zuck

Facendo chiudere Crowdtangle e Adobserver, Facebook spera di controllare le scoperte fatte dal mondo accademico sul ruolo dell’azienda nella disinformazione, nell’odio e nelle molestie. L’azienda gestisce un proprio portale di ricerca, nel quale si pretende che i ricercatori accademici accedano a dati riguardanti la piattaforma.

Ma così come ha fatto con i giornalisti che pubblicano articoli a proposito di Facebook, l’azienda ha sommerso di offese i ricercatori accademici che hanno svolto ricerche su di essa.

I dati del suo portale erano difettosi e quindi esponevano le tesi di dottorato e di master al rischio di dover essere ritirate. A metà tesi, i ricercatori si sono ritrovati al punto di partenza.

https://www.nytimes.com/live/2020/2020-election-misinformation-distortions#facebook-sent-flawed-data-to-misinformation-researchers

Col senno di poi, la decisione di Facebook di sfruttare il proprio algoritmo per promuovere ciarlatanerie favorevoli all’azienda sembra inevitabile. Non solo nessuno crede più alle scuse dell’azienda (ammesso che ci abbia mai creduto), ma Facebook sembra incapace di assoldare degli spin doctor competenti.

Considerate la bomba giornalistica del Wall Street Journal, i Facebook Files: una serie di resoconti che documentano dettagliatamente quanto l’azienda sia disposta a danneggiare i bambini, commettere frodi e a consentire a milioni di persone favorite e potenti di violare impunemente le sue regole.

https://www.bloomberg.com/news/newsletters/2021-09-16/facebook-s-promised-to-gain-the-public-s-trust

La risposta di Facebook è stata sinceramente patetica: in un blando post, il suo principale agente pubblicitario, il diffusamente disprezzato politico britannico Nick Clegg, pagato milioni per rappresentare Facebook sulla scena mondiale, ha denigrato il giornalismo del WSJ senza presentare alcuna smentita dei fatti.

https://about.fb.com/news/2021/09/what-the-wall-street-journal-got-wrong/

È il genere di difesa maldestra per la quale Facebook è famosa (o malfamata). Chi può dimenticare il disastro assoluto del suo programma Internet Basics in India, dove ha corrotto le compagnie telefoniche per esentare dai limiti sui dati cellulari se stessa e i servizi che sceglieva?

https://www.theguardian.com/technology/2016/may/12/facebook-free-basics-india-zuckerberg

Questa manovra per assassinare la neutralità della Rete, spacciata per un modo di portare Internet ai poveri (cosa che non fa assolutamente), è stata oggetto di una consultazione da parte degli organi di controllo delle società telefoniche indiane.

Facebook inviò degli allarmi ingannevoli a milioni dei propri utenti indiani, ingannandoli affinché mandassero un fiume di lettere precompilate agli organi di controllo, supplicandoli di lasciare intatto il programma Internet Basics.

Ma chiunque scrisse la lettera precompilata non si prese la briga di controllare se era pertinente alle questioni affrontare dagli organi di controllo, e così questi milioni di lettere furono ignorati.

Facebook perse! È quasi come se la gente capace di combattere le battaglie politiche non se la senta di lavorare per Facebook e le uniche risorse umane che l’azienda riesce ad attirare sono i coglioni opportunisti che nessuno prende seriamente e che tutti detestano.

Strana, questa cosa.

Nota: Per chi giustamente obietta che è contraddittorio che io ospiti un articolo così critico nei confronti di Facebook mentre ospito i pulsanti di condivisione di Facebook, vorrei chiarire che si trovano nell’interfaccia di Disqus, e che l’unico modo per eliminarli è pagare 105 dollari al mese a Disqus per avere l’account Pro.

Testo originale inglese pubblicato sotto licenza CC-BY-4.0. Questa traduzione è pubblicata con la medesima licenza e vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuta, potete incoraggiarmi a pubblicarne ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico) o altri metodi.

Donald Trump bandito permanentemente da Twitter, Facebook, Twitch e altre piattaforme social. Due parole per chi sta pensando “censura”

Gli account social personali di Donald Trump sono stati bloccati in seguito alle sue azioni e parole prima e dopo il saccheggio del Campidoglio che ha istigato.

Ma parlare di censura è fuori luogo. Ricordo che resta comunque uno degli uomini più potenti del mondo e che se vuole comunicare qualcosa le TV di tutto il mondo gliela diffonderanno. Ha tuttora a disposizione un ufficio stampa e un sito Web dal quale può comunicare direttamente.

Non è censura: Trump non è un dissidente che scompare nell’oblio di un gulag. Non è un Julian Assange in carcere al gelo, isolato da tutto e tutti. Semplicemente il social network dice "Hai violato le regole concordate: resti libero di parlare, ma non tramite me". O per dirla con le parole chiare di Xkcd, che avevo già citato qualche tempo fa:

Annuncio di pubblico servizio: il diritto alla libertà di parola significa che il governo non ti può arrestare per quello che dici. Non significa che chiunque altro debba ascoltare le tue stronzate o ospitarti mentre le condividi.

Il primo emendamento [della Costituzione USA, che sancisce la libertà di parola] non ti protegge dalle critiche o dalle conseguenze.

Se ti urlano contro, se ti boicottano, se cancellano il tuo programma, o se vieni bandito da una comunità su Internet, i tuoi diritti di libertà di parola non stanno subendo una violazione.

Semplicemente, la gente che ti ascolta pensa che tu sia uno stronzo, e ti sta mettendo alla porta.

Lasciando il cursore sopra la vignetta originale compare un commento dell’autore:

"I can't remember where I heard this, but someone once said that defending a position by citing free speech is sort of the ultimate concession; you're saying that the most compelling thing you can say for your position is that it's not literally illegal to express."

che si può tradurre così:

"Non ricordo dove l'ho sentito, ma qualcuno una volta ha detto che difendere un punto di vista citando la libertà di parola è una sorta di sconfitta finale; stai dicendo che la motivazione più convincente che puoi addurre per il tuo punto di vista è che non è letteralmente illegale esprimerla."

Un lettore, Stefano De Santis, citato con il suo permesso, ne ha gentilmente realizzata una versione in italiano:

 

Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuto, potete incoraggiarmi a scrivere ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico), Bitcoin (3AN7DscEZN1x6CLR57e1fSA1LC3yQ387Pv) o altri metodi.

Arrivano le app anti-coronavirus: le cautele della Electronic Frontier Foundation

Questo articolo è reso possibile dalle donazioni dei lettori e in particolare dalla donazione straordinaria di Matteo S. Grazie Matteo!

L’Italia ha presentato la propria app anti-coronavirus Immuni e altri paesi si apprestano a fare altrettanto. La Electronic Frontier Foundation, una delle più longeve e stimate associazioni di esperti informatici per la tutela dei diritti digitali e la protezione contro gli abusi delle tecnologie digitali, ha pubblicato un ampio articolo che fa il punto sulle app di tracciamento anti-pandemia ed è un’ottima introduzione ai concetti di base dell’argomento.

Lo traduco dall’inglese qui sotto, aggiungendo alcune evidenziazioni che ritengo particolarmente importanti. Se notate errori o imprecisioni, segnalate tutto nei commenti.

La sfida delle app di prossimità per il tracciamento dei contatti COVID-19

di Andrew Crocker, Kurt Opsahl e Bennett Cyphers - 10 aprile 2020. Translated and freely distributable under the Creative Commons Attribution License (CC-BY).

In tutto il mondo, un coro crescente e variegato sta invocando l’uso della tecnologia di prossimità degli smartphone per combattere la COVID-19. In particolare, gli esperti di salute pubblica e altre persone sostengono che gli smartphone potrebbero offrire una soluzione al bisogno urgente di un tracciamento dei contatti rapido e diffuso, ossia del tracciamento delle persone con le quali gli individui infetti vengono a contatto man mano che si muovono nel mondo. Chi propone questo approccio sottolinea che molte persone hanno già uno smartphone e che questi dispositivi vengono usati spesso per tracciare gli spostamenti e le interazioni degli utenti nel mondo fisico.

Ma non è per nulla scontato che il tracciamento tramite smartphone risolverà questo problema, e i rischi che comporta per la privacy individuale e per i diritti civili sono considerevoli. Il tracciamento della localizzazione (location tracking), che usa per esempio il GPS e le informazioni delle antenne della rete cellulare, è inadatto al tracciamento dei contatti perché non rivela in modo affidabile le interazioni fisiche ravvicinate che secondo gli esperti possono diffondere la malattia. Gli sviluppatori si stanno invece allineando rapidamente sulle applicazioni basate sul tracciamento di prossimità (proximity tracing), che misura la potenza del segnale Bluetooth per determinare se due smartphone sono stati sufficientemente vicini da consentire ai loro utenti di trasmettere il virus. In questo approccio, se uno degli utenti diventa infetto, gli altri utenti la cui prossimità è stata registrata dall’app potrebbero essere informati, mettersi spontaneamente in quarantena e chiedere di essere testati. Apple e Google hanno annunciato delle API (application programming interface) congiunte che usano questi principi e verranno incluse in iOS e Android a maggio. Varie applicazioni progettate in modo analogo sono oggi disponibili o lo saranno presto.

Nell’ambito della risposta quasi senza precedenti della società alla COVID-19, queste app sollevano questioni difficili di privacy, efficacia e realizzazione responsabile della tecnologia per migliorare la salute pubblica. Soprattutto non dovremmo affidarci a nessuna applicazione, non importa quanto bene sia progettata, per risolvere questa crisi o rispondere a tutte queste questioni. Le applicazioni di tracciamento dei contatti non possono compensare carenze di trattamenti efficaci, di dispositivi di protezione individuali e di test rapidi, per citare alcune delle sfide.

La COVID-19 è una crisi mondiale, che minaccia di uccidere milioni di persone e stravolgere la società, ma la storia ha dimostrato che le eccezioni alle protezioni fornite dai diritti civili, decise in momenti di crisi, spesso persistono ben più a lungo della crisi stessa. Con alcune salvaguardie tecnologiche, delle app sofisticate di tracciamento di prossimità possono evitare le comuni trappole di privacy del tracciamento di localizzazione. Gli sviluppatori e i governanti devono inoltre considerare i limiti legali e politici all’uso di queste app. Soprattutto, la scelta di usarle deve essere affidata ai singoli utenti, che dovranno informarsi sui rischi e sulle limitazioni e insistere affinché vi siano le salvaguardie necessarie. Alcune di queste salvaguardie sono descritte qui sotto.

Come funzionano le app di prossimità?

Ci sono numerose proposte differenti di app di tracciamento di prossimità basate sul Bluetooth, ma a un livello alto partono tutte con un approccio simile: l’app trasmette un identificativo unico via Bluetooth e gli altri telefonini vicini lo rilevano. Per proteggere la privacy, molte proposte, comprese le API di Apple e Google, cambiano frequentemente e in modo ciclico gli identificativi di ciascun telefonino, allo scopo di limitare il rischio di tracciamento da parte di terzi.

Quando due utenti dell’app si trovano reciprocamente vicini, entrambe le app stimano la distanza intercorrente usando la potenza del segnale Bluetooth. Se le app stimano che siano a meno di circa due metri di distanza per un periodo di tempo sufficiente, allora le app si scambiano degli identificativi. Ciascuna app registra un incontro con l’identificativo dell’altra app. Non è necessaria la localizzazione dell’utente, dato che l’applicazione ha solo bisogno di sapere se gli utenti sono stati sufficientemente vicini da creare un rischio di infezione.

Quando un utente dell’app viene a sapere che è infettato dalla COVID-19, gli altri utenti possono essere avvisati del proprio rischio d’infezione. È a questo punto che le varie concezioni dell’app divergono in maniera significativa.

Alcune app si affidano a una o più autorità centrali che hanno un accesso privilegiato alle informazioni riguardanti i dispositivi degli utenti. Per esempio, TraceTogether, sviluppata per il governo di Singapore, esige che tutti gli utenti condividano le informazioni sui contatti con gli amministratori dell’app. In questo modello, l’autorità detiene un database che correla gli identificativi delle app con le informazioni di contatto. Quando un utente risulta positivo a un test, la sua app invia al database un elenco di tutti gli identificativi con i quali è venuto a contatto nelle ultime due settimane. L’autorità centrale cerca quegli identificativi nel suo database e usa i numeri di telefono o gli indirizzi di mail per contattare gli altri utenti che possono essere stati esposti al contagio. Questo toglie molte informazioni degli utenti dal loro controllo e le mette nelle mani del governo. Questo modello crea rischi inaccettabili di tracciamento pervasivo delle associazioni degli individui e non dovrebbe essere usato da altri enti sanitari pubblici.

Altri modelli si affidano a un database che non immagazzina così tante informazioni sugli utenti dell’app. Per esempio, non è in realtà necessario che un’autorità accumuli informazioni di contatto reali. Gli utenti infetti possono invece inviare i propri registri dei contatti a un database centrale che custodisce identificativi anonimi di tutti coloro che possono essere stati esposti al contagio. A questo punto i dispositivi degli utenti che non sono infetti possono interrogare periodicamente l’autorità usando i propri identificativi. L’autorità risponde a ciascuna interrogazione dicendo se l’utente è stato esposto o no. Usando alcune salvaguardie elementari, questo modello può proteggere meglio la privacy degli utenti. Purtroppo può comunque consentire all’autorità di conoscere le reali identità degli utenti infetti. Con salvaguardie più sofisticate, come il mixing crittografico, questo sistema potrebbe offrire garanzie di privacy leggermente superiori.

Alcune proposte si spingono più in là, rendendo pubblico l’intero database. Per esempio, la proposta di Apple e Google pubblicata il 10 aprile scorso trasmetterebbe alle persone nelle vicinanze dotate dell’app un elenco di chiavi associate a individui infetti. Questo modello si affida meno a un’autorità centrale, ma crea nuovi rischi per gli utenti che condividono il proprio stato d’infezione, e questi rischi vanno mitigati o accettati.

Alcune app richiedono che le autorità, per esempio quelle mediche, certifichino che un individuo è infetto prima di poter allertare altri utenti dell’app. Altri modelli potrebbero consentire agli utenti di autosegnalare il proprio stato d’infezione o i propri sintomi, ma questo può produrre un numero significativo di falsi positivi che potrebbero minare l’efficacia dell’app.

In sintesi: anche se alcune delle idee su come realizzare le app di tracciamento di prossimità sono promettenti, restano molte questioni aperte.

Le app di prossimità sarebbero efficaci?

Il tracciamento dei contatti (contact tracing) tradizionale richiede parecchio lavoro manuale ma può essere molto dettagliato. Degli operatori sanitari pubblici chiedono alla persona malata di dettagliare i suoi spostamenti e le persone con le quali ha avuto contatto ravvicinato. Questo procedimento può includere l’ascolto dei familiari e di altri che possono conoscere ulteriori dettagli. Gli operatori sanitari contattano poi queste persone per offrire aiuto e trattamenti secondo necessità e a volte le interrogano per ricostruire ulteriormente la catena dei contatti. È difficile fare tutto questo su vasta scala durante una pandemia. Inoltre la memoria umana è imperfetta e quindi anche il quadro più dettagliato ottenuto tramite questi colloqui può contenere falle o errori importanti.

Qualunque tracciamento dei contatti effettuato tramite app di prossimità non sostituisce l’intervento diretto degli operatori sanitari pubblici. Inoltre è dubbio che un’app di prossimità possa aiutare in modo sostanziale il tracciamento dei contatti COVID-19 in un momento come quello attuale, in cui la trasmissione della malattia nelle comunità è così alta che gran parte della popolazione si sta confinando in casa e il numero dei test è insufficiente per tracciare il virus. Se ci sono così tante persone contagiose non diagnosticate nella popolazione, e molte di esse sono asintomatiche, un’app di prossimità non sarà in grado di avvisare della maggior parte dei rischi di infezione. Inoltre, senza test rapidi e ampiamente disponibili, anche chi ha sintomi non potrà avere la conferma per iniziare il processo di notifica. E a tutti è già stato chiesto di evitare la prossimità con le persone al di fuori della propria abitazione.

Tuttavia un’app del genere potrebbe essere utile per il tracciamento dei contatti in un periodo che speriamo arrivi presto, quando la trasmissione all’interno delle comunità sarà abbastanza bassa da consentire alla popolazione di non confinarsi più in casa e quando i test saranno disponibili in quantità sufficiente da consentire una diagnosi rapida ed efficiente di COVID-19 su vasta scala.

Il tracciamento dei contatti tradizionale è utile solo per i contatti che il soggetto è in grado di identificare. La COVID-19 è eccezionalmente contagiosa e può propagarsi da persona a persona anche durante incontri brevi. Uno scambio di battute veloce fra un assistente in negozio e un cliente, o fra due passeggeri di un mezzo di trasporto pubblico, può bastare perché una persona infetti l’altra. La maggior parte delle persone non accumula informazioni di contatto su tutta la gente che incontra, mentre le app possono farlo automaticamente. Questo può renderle utili come complemento al tracciamento dei contatti tradizionale.

Ma un’app tratterà il contatto fra due persone che s’incrociano sul marciapiedi allo stesso modo di un contatto fra compagni di stanza o partner sentimentali, anche se questi ultimi hanno un rischio di trasmissione molto più elevato. Senza effettuare dei test dell’app nel mondo reale, cosa che comporta rischi di privacy e di sicurezza, non possiamo essere certi che un’app non registrerà anche connessioni fra persone separate da pareti o in due auto affiancate al semaforo. Inoltre le app non considerano se gli utenti indossano o meno dispositivi di protezione e quindi possono segnalare eccessivamente e ripetutamente un’esposizione a utenti come il personale ospedaliero o gli assistenti dei negozi, nonostante le loro maggiori precauzioni contro le infezioni. Non è chiaro quanto i limiti tecnologici dei calcoli di prossimità tramite Bluetooth influenzeranno le decisioni di salute pubblica di avvisare le persone potenzialmente infette. È meglio che queste applicazioni siano leggermente ipersensibili e si rischi di fare notifiche eccessive a individui che in realtà non sono stati a meno di due metri da un utente infetto per il tempo ritenuto necessario? Oppure l’app deve avere soglie più alte, in modo che un utente che riceve la notifica possa avere più fiducia di essere stato realmente esposto al contagio?

Inoltre queste app possono registrare soltanto i contatti fra due persone entrambe dotate di un telefonino sul quale sia disponibile e abilitato il Bluetooth e sia installata l’app. Questo evidenzia un’altra condizione necessaria affinché un’app di prossimità sia efficace: deve essere adottata da un numero sufficientemente elevato di persone. Le API di Apple e Google tentano di affrontare questo problema offrendo una piattaforma comune alle autorità sanitarie e agli sviluppatori per la creazione di applicazioni che offrano funzioni e protezioni comuni. Queste aziende ambiscono inoltre a costruire le proprie applicazioni, che dialogheranno fra loro più direttamente e renderanno più rapida l’adozione. Ma anche così, una percentuale importante della popolazione mondiale (compresa buona parte della popolazione statunitense) può non avere accesso a uno smartphone sul quale funziona la versione più recente di iOS o Android. Questo evidenzia la necessità di continuare a usare misure sanitarie ben consolidate, come i test e il tracciamento dei contatti tradizionale, in modo da garantire che non vengano trascurate le popolazioni già emarginate.

Non possiamo risolvere una pandemia codificando l’app perfetta. I problemi sociali complessi non si risolvono con una tecnologia magica, anche perché non tutti avranno accesso agli smartphone e alle infrastrutture necessarie per far funzionare tutto questo.

Infine, non dovremmo fare eccessivo affidamento sulla promessa di un’app mai collaudata per prendere decisioni critiche come scegliere chi deve smettere di confinarsi in casa e quando lo deve fare. Di solito le app affidabili di questo tipo devono subire vari cicli di sviluppo e strati di collaudo e di garanzia di qualità: tutte cose che richiedono tempo. E anche così, le app nuove spesso hanno difetti. Un’app di tracciamento di prossimità difettosa potrebbe portare a falsi positivi, falsi negativi, o forse a entrambi.

Le app di prossimità sarebbero troppo nocive per le nostre libertà?

Qualunque app di prossimità crea nuovi rischi per gli utenti delle tecnologie. Un registro della prossimità di un utente ad altri utenti potrebbe essere sfruttato per mostrare chi incontra e dedurre cosa fa. Il timore che vengano rivelate queste informazioni di prossimità potrebbe scoraggiare gli utenti dal partecipare ad attività espressive in luoghi pubblici. Spesso i gruppi vulnerabili finiscono per sopportare in modo differente l’onere delle tecnologie di sorveglianza, e il tracciamento di prossimità potrebbe non essere diverso. E i dati di prossimità, oppure le diagnosi mediche, possono essere oggetto di furto da parte di avversari, come i governi stranieri o i ladri di identità.

Certo, anche alcune tecnologie di uso comune creano rischi analoghi. Molte, da Fitbit a Pokemon Go, tracciano e creano resoconti della vostra localizzazione. Il fatto stesso di portare addosso un telefonino comporta il rischio di tracciamento tramite la triangolazione delle antenne della rete cellulare. I negozi cercano di analizzare il traffico pedonale tramite Bluetooth. Molti utenti vengono “iscritti con opt-in” a servizi come quelli di localizzazione di Google, che tengono un registro dettagliato di tutti i luoghi dove sono stati. Facebook tenta di quantificare le associazioni fra le persone tramite una miriade di segnali, compreso il riconoscimento facciale per estrarre dati dalle foto, il collegamento di account ai dati dei contatti, e il mining delle interazioni digitali. Anche servizi che proteggono la privacy, come Signal, possono rivelare le associazioni tramite i metadati.

Di conseguenza, l’aggiunta proposta del tracciamento di prossimità a queste altre forme esistenti di tracciamento non costituirebbe un vettore di minaccia completamente nuovo. Ma la scala potenzialmente globale delle API e delle app di tracciamento dei contatti, e la loro raccolta di dati sensibili riguardanti la salute e le associazioni, presentano nuovi rischi per un numero maggiore di utenti.

Il contesto, ovviamente, ha il suo peso. Siamo di fronte a una pandemia senza precedenti. Sono morte decine di migliaia di persone; centinaia di milioni di persone hanno ricevuto istruzioni di confinarsi in casa. Si prevede che un vaccino arrivi tra 12-18 mesi. Anche se questo rende urgenti i progetti di app di prossimità, dobbiamo anche ricordarci che questa crisi finirà ma le nuove tecnologie di tracciamento tendono a restare in giro. Pertanto, gli sviluppatori di app di prossimità devono essere sicuri di sviluppare una tecnologia che conservi la privacy e la libertà che tutti amiamo, in modo da non dover sacrificare diritti fondamentali in un’emergenza. Fornire salvaguardie sufficienti aiuterà a contenere questo rischio. È necessaria la piena trasparenza su come funzionano le app e le API, compresa l’apertura del codice sorgente, affinché le persone capiscano i rischi e diano a questi rischi il proprio consenso informato.

Un’app di prossimità ha salvaguardie sufficienti?

Chiediamo con forza agli sviluppatori di app di fornire, e chiediamo agli utenti di esigere, le seguenti salvaguardie necessarie:

Consenso

Il consenso informato, volontario e opt-in è il requisito fondamentale di qualunque applicazione che tracci le interazioni di un utente con altri utenti nel mondo fisico. Inoltre le persone che scelgono di usare l’app e poi scoprono di essere malate devono poter scegliere se condividere o meno un registro dei loro contatti. I governi non devono rendere obbligatorio l’uso di app di prossimità. Non deve esserci alcuna pressione informale a usare l’app in cambio dell’accesso a servizi governativi. Analogamente, i privati non devono rendere obbligatorio l’uso dell’app per accedere a spazi fisici o per ottenere altri benefici.

I singoli individui devono inoltre avere la possibilità di disattivare l’app di tracciamento di prossimità. Gli utenti che danno il proprio consenso ad una forma di tracciamento di prossimità potrebbero non darlo ad altre forme, per esempio quando svolgono attività particolarmente sensibili come la visita a un medico o la partecipazione a un incontro politico. Le persone possono tenere per sé queste informazioni durante i colloqui del tracciamento dei contatti tradizionale con gli operatori sanitari e il tracciamento digitale dei contatti non deve essere più invadente. La gente è più disposta ad attivare in partenza le app di prossimità (cosa potenzialmente utile per la salute pubblica) se sa di avere la facilità di spegnerle e riaccenderle quando vuole.

Anche se può esserci la tentazione di rendere obbligatorio l’uso di un’app di tracciamento dei contatti, l’interferenza nell’autonomia personale è inaccettabile. La salute pubblica richiede fiducia tra gli operatori sanitari pubblici e la gente; la paura della sorveglianza può spingere le persone a sfuggire ai test e al tracciamento. Questa è una preoccupazione particolarmente acuta nelle comunità emarginate, che hanno motivi storici per diffidare di qualunque partecipazione forzata fatta in nome della salute pubblica. Anche se alcuni governi possono non curarsi del consenso dei loro cittadini, invitiamo caldamente gli sviluppatori a non lavorare con governi del genere.

Minimizzazione

Qualunque applicazione che faccia tracciamento di prossimità per il tracciamento dei contatti deve raccogliere la minor quantità possibile di informazioni. Probabilmente si tratta solo di una registrazione della vicinanza reciproca di due utenti, misurata tramite la potenza del segnale Bluetooth più i tipi dei dispositivi e un identificativo unico e ciclicamente variabile del telefonino dell’altra persona. Questa applicazione non deve raccogliere informazioni di localizzazione e non deve raccogliere informazioni sugli orari, eccetto forse la data (se i funzionari della sanità pubblica ritengono che sia importante per il tracciamento dei contatti).

Il sistema deve conservare queste informazioni per il minor tempo possibile, ossia probabilmente giorni e settimane, non mesi. I funzionari della sanità pubblica devono definire il lasso di tempo per il quale i dati di prossimità possono essere utili per il tracciamento dei contatti. Tutti i dati non più utili devono essere cancellati automaticamente.

Qualunque autorità centrale che mantenga o pubblichi database di identificativi anonimi non deve raccogliere o conservare metadati (come gli indirizzi IP) che possono collegare gli identificativi anonimi alle persone.

L’applicazione deve raccogliere informazioni esclusivamente allo scopo di tracciare i contatti. Devono inoltre esserci delle barriere robuste fra (a) l’app di tracciamento di prossimità e (b) qualunque altra cosa che un creatore di app stia raccogliendo, come i dati aggregati di localizzazione o i dati di salute degli individui.

Infine, le informazioni raccolte devono risiedere su un dispositivo dell’utente nella massima misura possibile, invece che su server gestiti dallo sviluppatore dell’applicazione o da un ente di salute pubblica. Questo pone delle sfide tecniche. Ma gli elenchi dei dispositivi dei quali l’utente è stato in prossimità devono rimanere sul dispositivo dell’utente, in modo che la verifica se un utente ha incontrato qualcuno che è infetto avvenga localmente.

Sicurezza delle informazioni

Un’applicazione che viene eseguita in background su un telefono e che registra la prossimità di un utente ad altri utenti pone notevoli rischi di sicurezza delle informazioni. Come sempre, limitare la superficie d’attacco e la quantità delle informazioni raccolte riduce questi rischi. Gli sviluppatori devono rendere aperto il proprio codice sorgente (open source) e sottoporlo a esami e test di penetrazione da parte di terzi. Devono inoltre pubblicare i dettagli delle proprie prassi di sicurezza.

Saranno probabilmente necessari altri sforzi tecnici per garantire che gli avversari non possano compromettere l’efficacia di un sistema di tracciamento di prossimità o estrarre informazioni rivelatrici riguardanti gli utenti dell’applicazione. Questo include la prevenzione delle false segnalazioni d’infezione da parte di individui, come forma di trollaggio o di denial of service, e la garanzia che gli avversari ricchi di risorse che fanno monitoraggio dei metadati non possano identificare gli individui che usano l’app o registrare le loro connessioni con altri utenti.

Gli identificativi “anonimi” non devono essere collegabili. Una variazione ciclica regolare degli identificativi usati dal telefono è un buon inizio, ma se un avversario è in grado di capire che un certo insieme di identificativi appartiene allo stesso utente, questo aumenta molto il rischio che possa collegare quell’attività a una persona effettiva. Per come abbiamo capito la proposta di  Apple e Google, gli utenti che risultano positivi a un test riceveranno la richiesta di trasmettere delle chiavi che collegano fra loro tutti i loro identificativi per un periodo di 24 ore (abbiamo chiesto chiarimenti ad Apple e Google). Questo permetterebbe a entità traccianti di raccogliere questi identificativi ciclicamente variabili se avessero accesso a una rete estesa di lettori Bluetooth e così tracciare gli spostamenti degli utenti infetti nel corso del tempo. Questo vanifica le salvaguardie create dall’uso degli identificativi variabili. Per questo motivo gli identificativi variabili devono essere inviati a eventuali autorità o database centrali in un modo che non riveli il fatto che molti identificativi appartengono alla medesima persona. Questo può comportare la necessità di incorporare gli identificativi di un singolo utente in un lotto insieme a quelli di altri utenti oppure di distribuirli nel tempo.

Infine, i governi potrebbero tentare di obbligare gli sviluppatori di tecnologie a sovvertire le limitazioni che hanno posto, per esempio modificando l’applicazione in modo da trasmettere a un’autorità centrale gli elenchi dei contatti. La trasparenza ridurrà questi rischi, che però continueranno a restare intrinseci nella creazione e disseminazione di un’applicazione di questo genere. Questo è uno dei motivi per cui chiediamo agli sviluppatori di tracciare confini chiari all’uso dei loro prodotti e di impegnarsi a resistere agli sforzi governativi di interferire nella progettazione, come abbiamo visto fare ad aziende come Apple nel caso di San Bernardino.

Trasparenza

Le entità che sviluppano queste app devono pubblicare rapporti su cosa fanno, come lo fanno e perché lo fanno. Devono anche pubblicare il codice sorgente aperto insieme alle politiche che riguardano tutte le questioni di privacy e di sicurezza delle informazioni citate sopra. Questi rapporti devono includere impegni ad evitare altri usi delle informazioni raccolte dall’app e una promessa solenne di evitare interferenze governative nella misura ammessa dalle leggi. Tutto questo, espresso sotto forma di policy dell’applicazione, dovrebbe inoltre consentire la sanzione delle violazioni tramite le leggi di tutela dei consumatori.

Gestione delle discriminazioni

Come descritto sopra, le applicazioni di tracciamento dei contatti non includeranno le persone che non hanno accesso alle tecnologie più recenti e favoriranno quelle inclini ad affidarsi alle aziende di tecnologie e al governo per la gestione dei propri bisogni. Dobbiamo garantire che gli sviluppatori e il governo non escludano, direttamente o indirettamente, i gruppi emarginati affidandosi a queste applicazioni fino al punto di escludere altri interventi.

Per contro, queste app possono generare molti più falsi positivi per certi tipi di utenti, come gli operatori sanitari o quelli del settore dei servizi. Questa è un’altra ragione per la quale le app di tracciamento dei contatti non devono essere usate come base per escludere le persone dal lavoro, dai raduni pubblici o dall’assistenza governativa.

Scadenza

Quando finirà la crisi della COVID-19, dovrà terminare anche qualunque applicazione creata per combattere la malattia. Definire la fine della crisi sarà una questione difficile, per cui gli sviluppatori devono assicurarsi che gli utenti possano fare opt-out (uscire dal sistema) in qualunque momento. Devono inoltre valutare l’inserimento di limiti temporali direttamente nelle proprie applicazioni, insieme a richieste periodiche agli utenti per sapere se vogliono continuare la trasmissione di dati. Inoltre, ora che grandi fornitori come Apple e Google entrano in gioco con la propria potenza a supporto di queste applicazioni, devono chiarire le circostanze nelle quali creeranno e non creeranno prodotti analoghi in futuro.

La tecnologia ha il potere di amplificare gli sforzi della società di affrontare i problemi complessi, e questa pandemia ha già ispirato molte delle persone migliori e più brillanti. Ma conosciamo fin troppo bene la capacità dei governi e delle organizzazioni private di disseminare tecnologie di tracciamento dannose. Soprattutto, mentre combattiamo la COVID-19, dobbiamo assicurarci che la parola “crisi” non diventi un talismano magico che può essere invocato per costruire mezzi nuovi e sempre più astuti per limitare le libertà delle persone tramite la sorveglianza.


Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuto, potete incoraggiarmi a scrivere ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico), Bitcoin (3AN7DscEZN1x6CLR57e1fSA1LC3yQ387Pv) o altri metodi.