Cerca nel blog

2017/06/30

Le regole segrete di Facebook sui messaggi d’odio

Ultimo aggiornamento: 2017/07/2 11:47.

I criteri usati da Facebook per decidere se un post è accettabile o meno sono segreti. O meglio, lo erano fino a pochi giorni fa, quando ProPublica ha pubblicato una serie di documenti interni riservati di Facebook che spiegano come funziona e come decide l’esercito di 4500 moderatori di questo social network.

Questa rivelazione getta finalmente un po’ di luce sulle motivazioni che spingono questi moderatori a vietare alcuni post e lasciarne passare altri apparentemente simili. Molti utenti di Facebook, infatti, si sono visti cancellare post o sospendere temporaneamente l’account senza capire perché. Questo rende difficile regolarsi meglio.

Il principio generale, scrive ProPublica, è che è vietato dir male di quelle che Facebook chiama “categorie protette” (razza, sesso, identità di genere, affiliazione religiosa, origine nazionale, etnia, orientamento sessuale e handicap/malattia grave). Però è permesso dir male di sottoinsiemi di queste categorie.

Per esempio, un post che nega l’Olocausto è accettabile ma uno che fa antisemitismo no. Gli utenti di Facebook sono liberi di attaccare le donne che guidano o i bambini di colore, ma non gli uomini bianchi. Come mai? Perché, dicono le regole di Facebook, i bambini non sono una categoria protetta e sono un sottoinsieme delle persone di colore. A quanto pare gli uomini non vengono considerati un sottoinsieme degli esseri umani.

Un altro esempio, tratto dalla realtà, è un invito a massacrare tutti i musulmani radicalizzati, fatto da un membro del Congresso statunitense: è accettabile, secondo Facebook, perché è rivolto a uno specifico sottoinsieme di musulmani. Dire “Tutti i bianchi sono razzisti”, invece, è inaccettabile per Facebook, perché prende di mira un’intera categoria protetta. Eppure la prima frase incita alla violenza (specificamente all’omicidio), mentre la seconda è una semplice osservazione generale, giusta o sbagliata che sia.

L’articolo di ProPublica (in inglese) esplora in grande dettaglio le ragioni e le bizzarrie di queste regole, spesso contrarie alle leggi nazionali e al buon senso: consiglio di leggerlo per rendersi conto che contrariamente a quanto pensano in molti, Facebook non è affatto uno spazio libero di discussione.


Nota tecnica: le immagini pubblicate da ProPublica e da Ars Technica sono ricostruzioni dei documenti trafugati; BoingBoing sembra invece mostrarne una versione originale.

Nessun commento: