Vai al contenuto

Gli obsoleti: i moderatori di contenuti e l’illusione dell’automazione

“Gli obsoleti”, il mio secondo saggio, uscirà in libreria e in ebook il prossimo giovedì 4 febbraio 2021: è il primo libro italiano dedicato ai moderatori di contenuti online delle grandi piattaforme digitali.

Correva l’anno 2014 quando per la prima volta in vita mia lessi un articolo riguardante i moderatori di contenuti online: una lunga inchiesta di “Wired” firmata da Adrien Chen che mio padre mi aveva gentilmente messo da parte, sicuro che l’argomento avrebbe prima o poi suscitato il mio interesse. All’epoca avevo da poco cominciato a lavorare come social media manager e, come molti altri, non avevo mai sentito parlare dei moderatori di contenuti: al più conoscevo l’esistenza dei “moderatori” dei gruppi Facebook, ma non sapevo e non potevo sapere che migliaia e migliaia di moderatori lavoravano dietro le quinte per rimuovere, un clic alla volta, milioni di contenuti online potenzialmente problematici, prima che questi diventassero virali a causa dello stesso algoritmo del social. Ciò che vedevo nel mio NewsFeed, pensavo, era lì perché doveva esserci. Semplicemente.

Una delle prime presentazioni del libro “Gli obsoleti” alla libreria duepunti di Trento, insieme a Federico Zappini e Diletta Von Huyskes.

“Gli obsoleti” è il primo libro italiano sui moderatori di contenuti dei social media

Sette anni, e molte letture dopo, il primo libro italiano sui moderatori di contenuti online è pronto per uscire in libreria e in ebook: il 4 febbraio 2021, a due anni esatti dalla pubblicazione di “Solitudini Connesse”, sarà possibile leggere il mio secondo saggio “Gli obsoleti. Il lavoro impossibile dei moderatori di contenuti” edito da Agenzia X con la copertina realizzata dall’illustratrice Licia Zavattaro. Un’opera a se stante, ma che io considero il naturale completamento del mio primo lavoro: se in “Solitudini Connesse” analizzavo gli effetti degli algoritmi sulle modalità di comunicazione e relazione tra gli utenti dei social, negli “Obsoleti” ho provato a ricostruire gli effetti a lungo termine della presenza degli algoritmi sull’identità lavorativa di persone da tempo ritenute sostituibili dalle macchine digitali, senza mai poterlo essere del tutto a causa dell’imperfezione delle tecnologie stesse.

A colpirmi, infatti, nell’articolo di “Wired” non fu tanto la scoperta dell’esistenza di migliaia di moderatori che ripulivano il flusso di notizie di Facebook da ciò che di peggio l’umanità era in grado di condividere online, né che le immagini e i video rimossi fossero talmente scioccanti da provocare traumi psichici a lungo termine nei moderatori stessi. L’aspetto, per così dire, più inspiegabile di tutta la questione era il fatto che all’epoca fossero operativi in tutto il mondo qualcosa come centomila moderatori di contenuti su Facebook e altre piattaforme digitali globali e che non vi fosse alcun modo di rendersi conto della loro presenza, né di comunicare direttamente con essi: la situazione non è migliorata nel frattempo, e ancora oggi nessuno è in grado di sapere quali e quanti contenuti potrebbero apparire nei nostri “newsfeed” individuali senza l’intervento invisibile dei moderatori.

L’invisibilità dei moderatori non è una casualità, ma una scelta strategica delle piattaforme digitali volta a minimizzare il lavoro umano

Quell’articolo di “Wired”, con la sua insistenza sulla “invisibilità” dei moderatori, è stato il primo indizio che mi ha messo sulle tracce degli “Obsoleti”: li definisco così perché nel corso dei miei studi mi sono reso conto che i moderatori di contenuti non sono altro che un esempio, forse il più estremo e attuale, della condizione di presunta obsolescenza in cui stanno precipitando milioni di lavoratori manuali privi di competenze STEM. È da questa sterminata forza lavoro che le aziende digitali estraggono a sorte i moderatori di contenuti: lavoratori ritenuti – erroneamente – “obsoleti” perché a rischio di essere sostituiti dall’intelligenza artificiale, “obsoleti” perché costretti a compiere un lavoro manuale, alienante e ripetitivo per compensare le mancanze di una tecnologia che erroneamente è stata ritenuta in grado di sostituirsi al lavoro di selezione “umano” delle informazioni.

L’invisibilità dei moderatori, in questo senso, non è affatto casuale o temporanea, ma è una scelta strategica delle aziende hi-tech volta a minimizzare l’importanza del lavoratore “obsoleto” che rende possibile e valorizza il lavoro “meccanico” degli algoritmi che mettono in moto le piattaforme digitali. Seduti di fronte a pc in cui milioni di contenuti vengono dissezionati, analizzati ed eliminati uno alla volta, i moderatori sono operai “del clic” addetti a una complessa catena di “smontaggio” e rimozione globale delle informazioni che consente all’algoritmo di diffondere post, video e immagini inoffensivi e in linea con le policy di pubblicazione delle piattaforme (perlomeno, nella maggioranza dei casi). L’invisibilità dei moderatori è quindi funzionale a far sì che utenti, aziende e investitori di tutto il mondo possano continuare a riporre la loro fiducia, i loro soldi e investimenti per sostenere l’illusione di una automazione editoriale di massa in grado di fare a meno delle scelte editoriali e dell’arbitrio degli uomini.

L’obsoleto non è colui che non si aggiorna, ma colui che non può apprendere e dimenticare a comando come le macchine “intelligenti”

Questa contraddizione tra la rappresentazione di una tecnologia avanzatissima e un sistema di selezione manuale e “antico” si trovava già nell’articolo di “Wired”, ma è diventata sempre più evidente man mano che nuove inchieste e testimonianze sono venute alla luce: dai “Facebook Files” del “Guardian” nel 2017 alle inchieste di “The Verge” nel 2019 sui centri di moderazione negli USA, da “Custodians of the Internet” di Tarleton Gillespie a “Behind the Screen” di Sarah T. Roberts, sono oltre 250 le fonti menzionate nella bibliografia degli “Obsoleti” e che vanno dal primo articolo pubblicato sui moderatori di contenuti dal New York Times nel 2010 (quattro anni prima dell’inchiesta di “Wired”) alla famosa lettera con cui oltre 200 moderatori hanno chiesto pubblicamente a Mark Zuckerberg il riconoscimento “ufficiale” dell’importanza del proprio ruolo verso la fine del 2020.

A essere “obsoleto”, in fondo, non è oggi il lavoro manuale in sé: in tutto il mondo cresce l’offerta di lavori invisibili per compensare i limiti sempre più evidenti di intelligenze artificiali che hanno preteso anzitempo di sostituirsi all’uomo. Il moderatore stesso è un lavoratore obbligato ad aggiornarsi di continuo: ogni giorno deve imparare nuove regole delle “policy” che regolano i contenuti sulle piattaforme, e ogni giorno è esposto a contenuti sempre nuovi e sempre più difficili da metabolizzare per la loro violenza e inspiegabilità. A essere “obsoleta”, semmai, è l’impossibilità del moderatore di dimenticare a aggiornarsi a comando come le macchina per cui presta servizio, ignorando le policy del passato per applicare le nuove, dimenticando i contenuti rimossi per continuare a sostenere l’ambizione di una parte dell’umanità di vivere in un mondo digitale dove nulla di drammatico o intollerabile può avere diritto di esistere. L’obsolescenza, oggi, è il destino che accumuna i lavoratori del digitale: il limite, variabile da individuo a individuo, di tenere il passo delle macchine insonni e prive di una memoria con cui fare i conti.

Il primo passo verso la fine dell’illusione della completa automazione editoriale di massa a cui gli algoritmi ci hanno abituato

È un libro contro le piattaforme digitali, quindi? Certo che no. È un libro a favore di esse? Nemmeno. Se lo scopo immediato de “Gli obsoleti” è quello di portare alla luce le storie di coloro che sacrificano il proprio benessere mentale per difendere gli utenti dai contenuti più spaventosi, nondimeno lauspicio è quello di sottolineare l’assurdità di certi provvedimenti legislativi volti ad accrescere ulteriormente il potere di moderazione delle piattaforme digitali. Se l’obiettivo finale dei moderatori di contenuti online è quello di tutelare la promessa irrealizzabile dell’automazione editoriale di massa su cui le aziende hi-tech hanno costruito la loro fortuna, è evidente come la moderazione delle piattaforme digitali sia subordinata a fini puramente reputazionali che ben poco hanno a che vedere con il diritto alla libertà d’informazione degli utenti: conoscere come lavorano i moderatori diventa quindi il primo passo di un percorso di liberazione dalla passività a cui gli algoritmi ci hanno abituati, dalla finzione di poter demandare a una macchina la scelta di ciò che dobbiamo e non vorremmo vedere.

Sull’account Instagram @gli.obsoleti è possibile leggere una serie di estratti del libro

5 Comments »

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...