C’è voluto più di un anno per consentire all’Oversight Board, il Comitato per il controllo di Facebook, di valutare le regole di controllo incrociato di Meta, e i risultati appena pubblicati dal Consiglio non sono sicuramente quelli che la società di Zuckerberg sperava di ricevere. E’ stato infatti scoperto che «per alcuni utenti di alto profilo il programma modera i contenuti in maniera differente», dando così la priorità all’attività dell’azienda piuttosto che ai diritti dei suoi utenti.
Abbiamo riscontrato diverse carenze nel programma incrociato di Meta. L’azienda ci aveva detto che questo sistema l’aiuterebbe nel suo impegno sui diritti umani, invece abbiamo scoperto che sembrerebbe essere strutturato per soddisfare le preoccupazioni delle imprese.
Questi risultati farebbero eco alle critiche dell’informatica statuintense Frances Haugen, che l’anno scorso rivelò dettagli esplosivi sui controlli incrociati di Meta, sostenendo sostanzialmente che l’azienda «sceglie i profitti piuttosto che la sicurezza».
Cos’è il controllo incrociato
Il controllo incrociato, conosciuto anche con il termine xcheck, è un programma interno di Facebook e Instagram che protegge celebrità, politici e altri utenti di alto profilo dai sistemi di moderazione automatizzata dei contenuti. Meta lo etichetta come un «secondo livello di revisione» che serve ad evitare che i post di queste persone vengano cancellati per errore.
Dalle rivelazioni di Haugen si è però scoperto che questo programma, che include «milioni» di account, avrebbe consentito miliardi di visualizzazioni su post che normalmente sarebbero stati rimossi.
L’Oversight Board è d’accordo con questa tesi e ritiene che il controllo incrociato di Meta presenti seri problemi. Tra tutti, il fatto che allunga i tempi di permanenza di quei contenuti che potenzialmente infrangono le regole: Meta dice che mediamente possono essere necessari più di cinque giorni per prendere una decisione sui post pubblicati da questi account, e ciò significa che sono visibili proprio nel momento in cui sono maggiormente virali e potrebbero causare più danni.
Il precedente
Un esempio – spiegano – è l’incidente del 2019 in cui la star del calcio brasiliano Neymar ha pubblicato un video che mostrava foto di nudo di una donna che lo accusava di violenza sessuale. Proprio a causa del sistema di controllo incrociato, il post è rimasto online per più di un giorno ricevendo oltre 56 milioni di visualizzazioni prima di venire rimosso.
Di regola l’account del calciatore doveva venire sospeso, ma siccome aveva firmato un accordo che dava l’esclusività sulla pubblicazione degli streaming su Facebook Gaming (un bell’affare, visto che soltanto su Instagram ha 166 milioni di fan) alla fine non ha subìto alcuna sanzione.
Cosa succede adesso
Sulla base di ciò, l’Oversight Board ha presentato 32 consigli atti a migliorare il programma di controllo incrociato e adesso Meta avrà 90 giorni di tempo per dare una risposta: non sarà obbligata a implementarli, ma è comunque tenuta a dare una risposta dettagliata in merito a ciascuno di essi.
