Cerca nel blog

2017/09/15

Facebook offriva pubblicità mirata contro gli ebrei. E non lo sapeva

Credit: ProPublica.
Quando parlo dello strapotere sociale della profilazione effettuata di Facebook, la gente mi guarda storto, come se fossi paranoico. Ma dai, mi dicono, Facebook ti profila i gusti commerciali, le marche che ti piacciono, la musica che ti interessa, che male c’è, lo fanno in tanti; sei tu che decidi volontariamente di indicare cosa ti piace e cosa no.

Forse questa storia farà ricredere qualcuno di questi ottimisti che riversano la propria esistenza nel più grande archivio di schedatura di massa della storia del mondo.

Facebook è stata colta a offire pubblicità mirata a chi era stato classificato, da Facebook stesso, come “persona che odia gli ebrei” o che aveva manifestato interesse per argomenti tipo “Come bruciare gli ebrei” oppure “Storia di come gli ebrei rovinano il mondo”. Lo ha scoperto ProPublica.org, dimostrando pubblicamente che non si trattava di una teoria ma di un fatto in maniera molto semplice: ha acquistato da Facebook pubblicità mirata proprio per queste specifiche categorie. Facebook ha approvato gli acquisti nel giro di quindici minuti.

ProPublica ha pubblicato screenshot e dettagli del procedimento, descrivendolo con precisione e notando che Facebook descriveva la categoria pubblicitaria specificamente includendo la parola polacca Antysemityzm, che probabilmente non ha bisogno di traduzione.

Propublica sottolinea anche l’incredibile dettaglio delle categorie pubblicitarie offerte da Facebook: sono oltre ventinovemila. Altro che “mi profilano solo i gusti negli acquisti che indico io”.

Non è finita: Facebook ha risposto alla denuncia di ProPublica confermando l’esistenza di queste opzioni e dichiarando si tratta di categorie che hanno una partecipazione “incredibilmente piccola” (a quanto pare, quasi duecentomila persone per Facebook sono niente) e che sta “costruendo nuove restrizioni... per prevenire che in futuro accadano altre questioni come questa”. In altre parole, non solo Facebook offriva categorie specifiche per razzismo e discriminazione, ma non sapeva che il suo sistema le offriva finché non gliel‘ha detto ProPublica. Queste categorie erano generate automaticamente dal sistema.

Siete sicuri di voler affidare tutti i dati della vostra vita a un sistema automatico di cui nessuno è realmente al comando e che può essere manipolato in questi modi?

13 commenti:

IlTester ha detto...

Ai volponi che pensano "Facebook ti profila i gusti commerciali, le marche che ti piacciono, la musica che ti interessa, che male c’è", dovresti suggerire una lettura di questo o di altri simili paper sul data mining: http://www.pnas.org/content/110/15/5802.abstract

TL;DR: analizzando _solo_i_like_ (quindi senza nemmeno bisogno di utilizzare altre informazioni molto più esplicite come contenuto dei post, query di ricerca, membership nei gruppi, rete di amicizie etc.) è possibile inferire con molta confidenza informazioni sensibili come orientamento sessuale, omosessualità, tossicodipendenza, e tante altre cose che uno si guarderebbe molto bene dal raccontare in pubblico.

Al momento negli Stati Uniti (e quindi presumibilmente, in un futuro recente, anche in Europa) informazioni minate in questo modo vengono usate dalle aziende per cose simpatiche come decidere se offrirti o meno un posto all'università, un posto di lavoro, un'assicurazione sanitaria etc. Vediamo se continuano a dire "che male c'è"...

Patrizia Mandanici ha detto...

@ilTester: L'omosessualità è un orientamento sessuale - diventa dato sensibile solo se non si è fatto coming out pubblico, e se si vive in paesi con leggi omofobe o dove l'omofobia è diffusa. Nei paesi occidentali più avanzati far sapere se si è è omosessuali o etero non dovrebbe essere un problema. Distinguerei poi da chi non vorrebbe rivelare il proprio orientamento sessuale per i più vari motivi (e che non capisce che i like e tutto il resto che si fa sul web viene monitorato) e chi invece ne è consapevole e vuole far sapere il proprio orientamento per scelta di vita o di rivendicazione dei propri diritti. Non è proprio la stessa cosa che far saper se ci si droga o se si hanno determinate malattie.

Guastulfo (Giuseppe) ha detto...

Quando parlo dello strapotere sociale della profilazione effettuata di Facebook, la gente mi guarda storto, come se fossi paranoico. Ma dai, mi dicono, Facebook ti profila i gusti commerciali, le marche che ti piacciono, la musica che ti interessa, che male c’è, lo fanno in tanti; sei tu che decidi volontariamente di indicare cosa ti piace e cosa no.

Forse questa storia farà ricredere qualcuno di questi ottimisti che riversano la propria esistenza nel più grande archivio di schedatura di massa della storia del mondo.


No. Non farà alcun effetto.

Faranno spallucce e risponderanno che tanto non hanno segreti e queste cose FB non le rivela mica al loro vicino di casa: loro sono "uno tra i tanti" e, quindi nessuno va personalmente a spiare "i fatti suoi".

Infine chiudono il discorso con la frase "non conosco nessuno a cui sia capitata nulla di quello di cui parli. Sono solo ipotesi che nè FB né altri non metterebbero in pratica." Come se si trattasse della loro madre che coscienziosamente custodisce i loro segreti.

Come cavolo si può rispondere ad affermazioni del genere?

Questo è il tipo di risposte che danno principalmente i ragazzini, quelli per i quali è naturale postare tutto e avere ogni sorta di social.

Una battaglia del genere la vivo con mia figlia tredicenne (quella più grande no: la pensa come me) da circa un annetto.

Lei si iscriverebbe su qualsiasi social passato presente e futuro perché le sue amiche del cuore lo fanno e a loro non è successo mai nulla.

In più i suoi docenti hanno praticamente tutti FB e Instagram. Ovviamente lei ritiene che un docente mica è più fesso di me.

Io le dico che è troppo piccola, che, per ora non se ne parla e lei mi porta articoli sul web in cui dei sedicenti esperti affermano che la strada migliore è iscriversi insieme ai propri figli e diventare loro amici sugli stessi social.
In questo modo loro soddisfano il loro "bisogno" (lo è davvero?) e il genitore li può controllare.

Come risultato lei chiede proprio questo: iscriviamoci tutti su FB e Instagram.

Chi ha ragione o, meglio, chi ha meno torto?

Diciamo che un lato positivo in questa vicenda c'è: si smazza a leggere articoli su articoli anche in inglese per portarmi "prove" a suo favore (è una ragazzina tenace) e questo le è utile per migliorare la conoscenza di questa lingua.

Le ho fatto leggere qualche articolo di questo sito sull'argomento.

Anche lei considera te, Paolo, un paranoico e aggiunge che ti contraddici pure perché usi molto Twitter. Hai voglia a spiegare che ne fai un uso professionale e che fai sicuramente un bilancio tra quel che perdi e quel che ci guadagni! :-D

Enrico Ceppi ha detto...

È la IA, cari miei, e sarà sempre di più così.
Del resto, l'abbiamo creata per fare cose troppo complesse/gravose per noi, e quindi, per essere una IA utile, è al di fuori del nostro controllo. Se la si potesse completamente controllare, sarebbe più veloce, facile, sicuro ed economico farlo direttamente noi.
La IA genera automaticamente relazioni, raggruppamenti, ecc. Come facciamo a controllare tutto ciò che genera? Adesso era contro gli ebrei e, OK, ce ne siamo accorti. Ma quanti di questi parametri, categorizzazioni ed altro vengono generate senza il nostro controllo ed il nostro filtro?

Dei Moni ha detto...

Secondo me la questione ha un’altra spiegazione, non meno grave.

Ho sempre più l’impressione, quindi quello che sto per dire non ha alcun aggancio fattuale, che la “società Facebook” non abbia più un reale controllo della sua creatura Facebook. Il social è cresciuto e ha sempre più una vita propria, la “società Facebook” è ancora in grado di estrapolare i dati, ma non è in grado di controllarne più l’uso.

Se è vero che il social Facebook ha più di due miliardi di iscritti, non fatico a credere che la stragrande maggioranza della manutenzione avvenga attraverso script, così anche i controlli e non da meno l’estrapolazione dei dati. Secondo me anche gli eventuali contratti pubblicitari avvengano ormai attraverso procedure automatiche per l’impossibilità concreta di farlo a mano e de visu di volta in volta (spesso sono piccoli inserzionisti che mirano a mercati di nicchia). Sarebbe da fare il test di Turing quando si pensa di parlare con il personale di FB, ne sono sempre più convinto.

D’altronde è sempre più vero che ban, cancellazione di materiale non permesso ed altro avvenga su delazione, non per un controllo capillare della società.
La “società Facebook” non controlla le segnalazioni, ha un suo degenerato sistema costruito su strambe categorie, per cui i link a pagine esterne non subiscono quasi mai nessun tipo di censura, a titolo di esempio un annetto fa ho segnalato più volte alla società Facebook alcuni fake che su un gruppo pubblicavano link a siti porno-pedofili con tanto di foto più che esplicite in embedded e la risposta iniziale è stata che il contenuto non violava le regole del social. Ho dovuto scrivere più volte minacciando denunce perché i fake fossero bannati e il materiale rimosso.

La “società Facebook” non vede perché non sa, vende inserzioni senza essere in grado di filtrare le richieste perché la “Società” non è stata in grado di prevedere ogni possibile abuso. Non è tanto diverso da un software che su un centinaio di macchine funziona perfettamente, poi distribuito worldwide si scopre pieno di bug perché nessun programmatore può prevedere ogni singola azione dell’utente finale.

Secondo me l’utente finale del social non è l’iscritto, ma l’inserzionista e cosa ne faccia l’utente del social, la società non lo sa. Questo ne è un esempio, ma anche il possibile coinvolgimento della Russia alle elezioni americane usando FB ne è un altro.

Come scenario è pure peggio, perché a questo punto la domanda è “Quando la società perderà totalmente il controllo del suo social?” e cosa succederà a quel punto?

IlTester ha detto...

@Patrizia Mandanici
Hai ragione su tutto, il mio commento è formulato molto male da quel punto di vista, stavo scrivendo molto di fretta. Giusto per chiarezza, non avevo nessuna intenzione discriminatoria, al contrario avevo in mente paesi e situazioni dove gli omosessuali sono perseguitati, per cui poter accedere a tale tipo di informazione da parte di soggetti discriminatori è un'arma molto pericolosa.

contekofflo ha detto...

@Patrizia Mandanici

Forse sono un po' bacchettone ma io invece penso che qualsiasi dato riguardante la sessualità sia sensibile, indipendentemente dalla legislazione o dalla cultura dominante.

Naturalmente ciascuno è libero di esporre pubblicamente le proprie preferenze sessuali, se lo ritiene opportuno. Ma che sia un software di analisi delle mie abitudini online a farlo per me - ed indipendentemente dalla mia volontà - lo trovo comunque inquietante.

Gianluca Frediani ha detto...

Caro Paolo, mi stupisce la superficialità di questo articolo.

Indichi che "Queste categorie erano generate automaticamente dal sistema.", suggerendo che ci sia un algoritmo in grado di estrapolare quelle informazioni dalle interazioni dell'utente.
In realtà la spiegazione è molto più semplice: quelle opzioni sono estratte da ciò che gli utenti hanno digitato autonomamente riempendo alcuni campi del proprio profilo, come dice proprio il comunicato di Facebook che linki: "As people fill in their education or employer on their profile, we have found a small percentage of people who have entered offensive responses, in violation of our policies."

Il problema rimane, perché è possibile scegliere come target queste categorie (infatti fb ha bloccato questa opzione) ma è sicuramente meno grave di quello che il tuo articolo lascia intendere.

martinobri ha detto...

OK, il prossimo passo è l'autocoscienza. Datemi retta, accumulate fiammiferi e lenze e imparate a costruirvi una capanna di frasche.

Altro, che forse c'entra. Da circa una settimana i post consigliati (ovvero le fastidiose pubblicità sponsorizzate, che devi togliere a mano una per una) sono aumentate di frequenza. Prima grosso modo ce n'erano cinque o sei al mese, adesso almeno un paio al giorno.

Paolo Attivissimo ha detto...

Gianluca,

suggerendo che ci sia un algoritmo in grado di estrapolare quelle informazioni dalle interazioni dell'utente.

quelle opzioni sono estratte da ciò che gli utenti hanno digitato

Appunto. Il sistema ha estratto quelle opzioni dalle interazioni dell'utente. Stiamo dicendo la stessa cosa in due modi differenti.

Non solo: sappiamo da casi precedenti che FB estrapola reddito e altri dati usando varie altre fonti, oltre alle interazioni e digitazioni dell'utente. Quindi direi che l'algoritmo capace di estrapolare esiste eccome.

Mammiiiinaaa?! ha detto...

@Guastulfo: hai tutta la mia solidarietà! Io spero che, quando i miei figli saranno arrivati a quell'età i social si siano autoestinti!
Ho cercato per mesi di dissuadere una collega dal pubblicare le foto dei suoi figli, allora adolescenti minorenni, ma non c'è stato niente da fare: veniva e mi diceva "guarda che bella foto di... Che ho pubblicato!" e io le dicevo "brava, fessa!".

gian paolo cardelli ha detto...

Chiedete alla commentatrice politica Barbara di Salvo cosa le è successo con FB: conferma in pieno gli avvisi di Attivissimo.

Il Lupo della Luna ha detto...

Ma se io metto "like" a ogni contenuto non sbaraglio il sistema?