Cerca nel blog

2017/06/30

Le regole segrete di Facebook sui messaggi d’odio

Ultimo aggiornamento: 2017/07/2 11:47.

I criteri usati da Facebook per decidere se un post è accettabile o meno sono segreti. O meglio, lo erano fino a pochi giorni fa, quando ProPublica ha pubblicato una serie di documenti interni riservati di Facebook che spiegano come funziona e come decide l’esercito di 4500 moderatori di questo social network.

Questa rivelazione getta finalmente un po’ di luce sulle motivazioni che spingono questi moderatori a vietare alcuni post e lasciarne passare altri apparentemente simili. Molti utenti di Facebook, infatti, si sono visti cancellare post o sospendere temporaneamente l’account senza capire perché. Questo rende difficile regolarsi meglio.

Il principio generale, scrive ProPublica, è che è vietato dir male di quelle che Facebook chiama “categorie protette” (razza, sesso, identità di genere, affiliazione religiosa, origine nazionale, etnia, orientamento sessuale e handicap/malattia grave). Però è permesso dir male di sottoinsiemi di queste categorie.

Per esempio, un post che nega l’Olocausto è accettabile ma uno che fa antisemitismo no. Gli utenti di Facebook sono liberi di attaccare le donne che guidano o i bambini di colore, ma non gli uomini bianchi. Come mai? Perché, dicono le regole di Facebook, i bambini non sono una categoria protetta e sono un sottoinsieme delle persone di colore. A quanto pare gli uomini non vengono considerati un sottoinsieme degli esseri umani.

Un altro esempio, tratto dalla realtà, è un invito a massacrare tutti i musulmani radicalizzati, fatto da un membro del Congresso statunitense: è accettabile, secondo Facebook, perché è rivolto a uno specifico sottoinsieme di musulmani. Dire “Tutti i bianchi sono razzisti”, invece, è inaccettabile per Facebook, perché prende di mira un’intera categoria protetta. Eppure la prima frase incita alla violenza (specificamente all’omicidio), mentre la seconda è una semplice osservazione generale, giusta o sbagliata che sia.

L’articolo di ProPublica (in inglese) esplora in grande dettaglio le ragioni e le bizzarrie di queste regole, spesso contrarie alle leggi nazionali e al buon senso: consiglio di leggerlo per rendersi conto che contrariamente a quanto pensano in molti, Facebook non è affatto uno spazio libero di discussione.


Nota tecnica: le immagini pubblicate da ProPublica e da Ars Technica sono ricostruzioni dei documenti trafugati; BoingBoing sembra invece mostrarne una versione originale.

14 commenti:

Adriano Carrata ha detto...

Quindi se incito qualcuno al Trumpicidio, visto che il buon Donald rappresenta un sottoinsieme (spero ridotto) della razza umana dovrebbe lasciarmelo passare....

Verzasoft ha detto...

Madonna mia che stronzata -_-
Per fortuna non uso quella roba

Sbronzo di Riace ha detto...

facebook e buon senso non dovrebbero stare nella stessa frase :-)

Glaucos ha detto...

Ciao, segnalo solo un errorino, parentesi chiusa senza quella di apertura in: "giusta o sbagliata che sia)"

Bern ha detto...

Probabile refuso: "mentre la prima è una semplice osservazione generale..", verosimilmente dovrebbe essere "mentre la seconda è una semplice osservazione generale..."

puffolottiaccident ha detto...

Buh, non capisco bene il problema.

I razzisti è meglio averli dove possiamo vederli bene, piuttosto che nelle catacombe.

puffolottiaccident ha detto...

Insomma, chi parla di suffragio universale, poi non deve lamentarsi se scopre che i minus habens son particolarmente suscettibili alle perline colorate, raganelle e cotillons e votano in base a stronzate.

Paolo Attivissimo ha detto...

Bern,

refuso sistemato, grazie!

Paolo Attivissimo ha detto...

Glaucos,

grazie anche a te della correzione. Parentesi sistemata.

contekofflo ha detto...

Quindi se scrivessi su Facebook un post inneggiante all'odio verso gli imprenditori ebrei e le loro mogli cinesi andrebbe benissimo, perché si tratta di sottoinsiemi di categorie protette :-D

puffolottiaccident ha detto...

@Contekofflo

non è da escludere.

Guastulfo (Giuseppe) ha detto...

Il senso mi pare chiaro: FB non vuole che un commento, da chiunque provenga, "colpisca" troppa gente tutta insieme.

In questo modo FB evita polemiche troppo roventi contro di sé.

Una strategia di autodifesa, insomma, ad elevata efficienza con minimo sforzo.

pgc ha detto...

In realtà l'articolo di ProPublica che Paolo ci ha fatto conoscere, mi ha convinto che, al contrario di quel che credevo, dietro a certe policy di FB c'è una logica abbastanza intelligente, e un requisito fondamentale: quello di garantire, per quanto possibile, una visione il più possibile universale della policy. Alla fine si tratta di un esercizio di legislazione universale che, per quanto non condivisibile nei contenuti, è interessante.

Con questo non dico che sia giusto quello che fanno. Dico che non vedo un modo per garantire una visione che possa andare bene a 7 miliardi di persone di etnie, credenze, origini, totalmente diverse tra loro. Se FB fosse nato da un seguace di Al-Khwārizmī vissuto ai tempi odierni, se le policy fossero state fatte "con buon senso" (che è sempre locale) minacciare di lapidare una persona per sodomia, per esempio, sarebbe consentito.

Insomma, mi pare di vedere una coerenza interna nelle policy di FB e un tentativo di creare una policy "super-partes". Che lo sia o meno, è di questo che dovremmo discernere, non del fatto che sia corretto o meno fare una certa scelta che sta bene a "noi". Noi come italiani, come uomini, come europei, etc.

Spero di essermi spiegato.

puffolottiaccident ha detto...

@pgc

In generale concordo, per quanto personalmente trovo avvilente che adulti grandi, grossi e vaccinati vadano in giro come bambini di 5 anni con berretto e paletta ad elevare contravvenzioni fittizie per le più risibili cazzate.

Non quanto trovo ridicolo il fatto che qualcuno rivendichi il diritto di vestirsi da Punk e contemporaneamente si metta a frignare che l'abbigliamento altrui lo opprime.

Il fatto che i governi diano retta a questi bamboccioni e promettano di esaudirli immagino sia il senso della democrazia.