Moderatori di contenuti online, le vittime invisibili

Un esercito di “poliziotti” invisibili che pattugliano il web per evitarci shock – sono loro, i moderatori di contenuti. Che, forse non sai, dopo 5 mesi sono costretti ad abbandonare il posto di lavoro

[ads2] MODERATORI DI CONTENUTI. Sembra un meccanismo piuttosto automatico, ma non lo è. Per eliminare un porno hardcore o un video di animali torturati, bullismo, decapitazione occorre sempre una valutazione, per poi autorizzarne la cancellazione dal social network dove è stato condiviso.

Chi valuta e cancella i contenuti violenti o sessualmente espliciti non è una macchina. È un essere umano – più precisamente, uno dei circa 100mila moderatori che, in tutto il mondo, non resistono più di 5 mesi nello svolgimento di questa attività. Perché spesso non lo pensiamo, ma tutto ciò che di orribile potremmo condividere non sarà visto solo occasionalmente da un utente collegato in quell’istante, ma anche da persone che vedono, valutano e cancellano centinaia di foto o video simili in turni di 8 ore alla volta. Una pressione psicologica non indifferente, per questi invisibili eroi della moderazione, che spesso devono ricorrere a cure sanitarie specifiche non sempre offerte dal “big” che stipula il contratto.

Dove è localizzata la moderazione dei contenuti, geograficamente? Molti impiegati dei più famosi canali di condivisione (Facebook, Youtube) si trovano in America e guadagnano in un’ora più di quanto non guadagnino i colleghi filippini in una giornata, spesso impiegati da aziende minori o in fase di start-up, ma anche da grandi aziende più parsimoniose. Il burnout, in questo settore, è molto frequente: osservare tanga, razzismo e violenze sui minori, decapitazioni e feticismi, genitali e teste di animali morti ti porta ad avere una visione molto cupa del livello della depravazione umana.

Complessivamente, i 100mila moderatori di contenuti presenti in tutto il mondo corrispondono al doppio dell’intero staff di Google e a 14 volte il team di Facebook. Come spiegato in una interessante inchiesta di Adrian Chien per Wired, nei quartieri generali della content-moderation a Manila (Filippine) il salario corrisponde a circa 500 dollari al mese dopo tre anni e mezzo di lavoro, ma talora arrivano proposte da società appaltatrici che ne offrono anche solo 312.

Ma Microsoft, Google e Facebook si tengono bene alla larga dalle dichiarazioni sui loro moderatori di contenuti: sanno che gli effetti psicologici a lungo termine non sono prevedibili. Anche Jane Stevenson, ex capo della sezione per la tutela per la salute e il benessere della National Crime Squad (Fbi britannico), notò strane conseguenze all’inizio del 2000, quando infervoravano le prime operazioni internazionali contro la pedopornografia. Spesso gli investigatori venivano “sopraffatti” dalle immagini, e così decise di fondare una società di counseling mirato, Workplace Wellbeing, evidenziando in poco tempo come la pressione subita dai moderatori di contenuti sia simile a quella avvertita dagli investigatori assistiti.

Attualmente quella dei moderatori di contenuti social è ancora una problematica sommersa, di cui non sono ancora disponibili tutti i dati. Ma certamente è destinata a diventare uno degli hot topics dei prossimi anni, considerata l’enorme forza-lavoro impiegata e l’aumento costante di nuove piattaforme e portali che se ne servono.