Ecco perché Facebook ha cancellato i vostri post sul Coronavirus

Se Facebook ha bloccato un vostro post o un link a un articolo sul Coronavirus nelle ultime 24 ore, indicandolo come spam, la colpa è di un bug del sistema di moderazione. È la versione ufficiale dell’azienda di Menlo Park, condivisa in un messaggio su Twitter dal Vice Presidente Integrity di Facebook, Guy Rosen. In un tweet successivo, Rosen ha specificato che “i post rimossi erroneamente sono già stati tutti ripristinati” e che i contenuti indicati come spam “riguardavano tutti gli argomenti, non soltanto il Covid-19”. I fatti smentiscono però la dichiarazione del dirigente, dato che molti utenti, non solo in Italia, questa mattina non sono riusciti a condividere post legittimi. Tra i contenuti indicati come spam ci sono anche link ad articoli di testate internazionali dalla comprovata affidabilità giornalistica.

Il bug dei sistemi di moderazione

Il bug, sempre secondo la versione ufficiale di Facebook, riguardava “un sistema automatico che rimuove i link a siti” che violano gli Standard della Comunità di Facebook, cioè il corpus di regole autodeterminato dall’azienda sul quale si basa il meccanismo di moderazione dei contenuti. Il problema è sorto nelle 24 ore successive all’annuncio con cui Facebook ufficializzava un aumento dell’automazione nei sistemi di moderazione. Una decisione per la quale l’azienda non ha specificato un motivo, limitandosi a negare che la scelta fosse legata a una diminuzione della forza lavoro negli uffici e nei centri di controllo dei contenuti. Molti di questi centri, come quelli gestiti in appalto da Arvato Bertelsmann nei pressi Berlino, o altri che hanno sede in Spagna, dovrebbero essere però chiusi o operativi a ranghi ridotti, date le restrizioni imposte in tutta Europa dai governi locali o nazionali per contenere l’epidemia di Coronavirus. La Stampa ha chiesto ulteriori chiarimenti a Facebook al riguardo, ma al momento della pubblicazione di questo articolo non abbiamo ricevuto una risposta ufficiale.

Cosa fanno gli altri social network

Anche altri social network hanno attuato piani analoghi a quello di Facebook. Su YouTube, ad esempio, la moderazione in questi giorni è affidata agli algoritmi con una minore supervisione da parte di operatori umani. Tuttavia Google ha chiarito con un post ufficiale che la scelta è legata proprio a una diminuzione dell’organico dovuta alle norme di distanziamento sociale. “Questo significa che i sistemi automatici rimuoveranno contenuti senza revisione umana”, si legge sul Creator Blog di YouTube. “Gli utenti vedranno probabilmente un aumento delle rimozioni, che potrebbero includere anche video che non violano le regole.” Le rimozioni non comporteranno i consueti ammonimenti per gli YouTuber coinvolti, ad esclusione dei casi che si configurano come violazioni palesi. Rimane la possibilità di fare appello, ma è possibile che il ricorso e l’eventuale ripristino del contenuto rimosso richieda più tempo del solito.  

Un piano congiunto

Nei giorni scorsi proprio Google, Facebook, Linkedin, Twitter, Microsoft e Reddit hanno firmato una sorta di protocollo d’intesa per limitare drasticamente la diffusione di notizie false sul Coronavirus e sul Covid-19. In una dichiarazione congiunta, le aziende hanno espresso l’intenzione di “combattere tutte assieme le falsità e la disinformazione sul virus, promuovendo contenuti autorevoli e condividendo aggiornamenti critici in coordinamento” con i governi e le autorità sanitarie di tutto il mondo.

Un’intenzione che però mal si sposa con la necessità di lavorare a ranghi ridotti. Da cui la scelta di alcune delle aziende coinvolte di ricorrere più massicciamente a sistemi di moderazione automatica basati sull’Intelligenza Artificiale.

Serve più trasparenza

In conclusione, dietro la rimozione da Facebook dei post sul Coronavirus non vi è alcun complotto, né il tentativo di limitare le fonti di informazione indipendenti. La colpa è di un’eccessiva “sensibilità” dei sistemi automatici di moderazione, unita all’impreparazione nella gestione di un’emergenza anomala che ha fortemente limitato l’intervento umano, anche all’interno delle grandi aziende tecnologiche.

I sistemi di controllo dei contenuti si basano ancora sull’interazione tra gli algoritmi e i moderatori umani, il cui intervento viene spesso nascosto o eliminato completamente dalle narrative ufficiali dei big di settore. In questo momento di crisi, anziché minimizzare e parlare di generici “bug”, sarebbe auspicabile dunque maggiore trasparenza da parte di tutte le aziende tecnologiche sui loro meccanismi di moderazione dei contenuti. L’Intelligenza Artificiale può già fare molto, ma non ha ancora superato l’uomo in un ambito così complesso come quello dell’interpretazione dei contenuti: è giusto ammetterlo e preparare gli utenti (come ha fatto YouTube) alle eventuali - temporanee - conseguenze.

Se queste erano le prove generali per l’automazione della moderazione di ciò che condividiamo su Internet, insomma, è chiaro che ci siano ancora molti aggiustamenti da fare. Ricordiamocelo, quando la crisi sarà passata.