Cerca nel blog

2019/06/07

Automatismi pericolosi: YouTube consiglia i video di bambini a chi guarda video erotici

A volte gli automatismi concepiti con buone intenzioni hanno conseguenze inattese. Per esempio, quelli di Youtube che raccomandano quali video guardare, basandosi sul tipo di video appena guardato, suggeriscono video di bambini parzialmente vestiti agli utenti che hanno guardato altri video del genere, e spesso anche a chi non lo ha fatto.

Il risultato è stato documentato da tre ricercatori del Berkman Klein Center di Harvard ed è stato descritto sul New York Times. I ricercatori hanno impostato un server in modo che guardasse video, seguendo man mano le raccomandazioni automatiche di YouTube. Spiega il Times: “un utente che guarda video erotici può ricevere il suggerimento di video di donne che diventano notevolmente più giovani e poi di donne in pose provocanti che indossano vestiti per bambini. Alla fine, ad alcuni utenti vengono presentati video di ragazze anche di cinque o sei anni che indossano costumi da bagno o si vestono o fanno spaccate”.

YouTube è stata allertata e ha rimosso molti dei video, ma non ha disattivato il meccanismo fondamentale che consente questa situazione, ossia il sistema di raccomandazione di altri video analoghi nel caso specifico di video di bambini.

Il popolarissimo sito di video, per contro, ha annunciato da poco che non saranno più possibili le dirette in streaming di giovani minori se i minori non sono chiaramente accompagnati da un adulto.

Pensateci, prima di rendere visibile al mondo intero un video dei vostri figli piccoli o prima di lasciare che abbiano un proprio account Youtube personale: è meglio che conoscano alcune regole di sicurezza di base.


Fonte aggiuntiva: Sophos.

Nessun commento: