È uscito il 14 aprile il docu-film The Cleaners Quello che i social non dicono, l’angosciante, quasi distopica realtà dietro all’approvazione o alla rimozione di contenuti sui nostri social. A Manila, schiere di ragazzi osservano una cosa come 25 mila immagini al giorno tra pedofilia, violenza e brutalità di ogni tipo e le rimuovono dai social.
Provate a mettervi nei loro panni.
Un pensiero bisogna farlo.
Di seguito, prima del video, la sbobinatura di quello che dirò nel video stesso, in modo che possiate leggere i sottotitoli oppure, se preferite, seguire direttamente dal post quello che dico nel video. Ci saranno delle imprecisioni “linguistiche”, ma se qualcuno riesce a fare dei video di 5 minuti senza copione, errori e tagli… beh mi dica come si fa :)
Vi siete mai chiesti chi siano i moderatori che stanno dietro ai social network? Cioè, provate a pensarci, vengono caricati miliardi di video e foto ogni giorno, ogni giorno solo su WhatsApp, lo so che non è l’esempio corretto ma è per capirci, vengono caricati circa 40 miliardi di messaggi. Noi ci scambiamo 40 miliardi di messaggi su WhatsApp. Quindi sono centinaia di milioni i video che vengono caricati su YouTube, così come su Facebook, così come su Twitter come su tutti gli altri social, benissimo.
Sappiamo benissimo che non è possibile mettere persone a vagliare tutto questo contenuto, quindi esistono degli algoritmi che valutano questi contenuti per far si che questi contenuti, se sono per esempio violenti, brutali o offensivi, non passino, ma sappiamo anche benissimo che gli algoritmi non sono in grado di individuare la differenza che c’è per esempio tra uno scherzo goliardico e un’offesa brutale, tra una battuta di spirito e una violenza vera e propria o il bullismo. Quindi è evidente che serve anche la mano umana, ma come facciamo a valutare tutti questi dati, tutte queste informazioni?
È uscito il 14 aprile un film italiano, tedesco e brasiliano se non sbaglio, una multiproduzione, al cinema che si chiama The Cleaners Quello che i social non dicono.
In pratica in questo film si parla, io premetto che non l’ho visto, ho letto moltissime cose sul film ma non l’ho visto, si parla della enorme community di persone che sta dietro i social per ripulire gli stessi da quello che accade di non gradito al pubblico.
Per capirci, molti di questi ragazzi vivono nelle Filippine, in particolare a Manila, dove il prezzo del lavoro è praticamente nullo, è bassissimo, e dagli 1 ai 3 euro all’ora, stanno davanti al video tutto il giorno, con turni spesso anche molto molto impegnativi, e arrivano a visualizzare fino a 25 mila immagini al giorno, che devono poi valutare se staranno pubblicate per capirci, o se devono essere rimosse perché non sono adeguate.
Questo ci mette davanti ad una condizione davvero molto strana, per esempio, queste persone sono quelle persone che insegnano gli algoritmi, cioè gli algoritmi imparano anche grazie al fatto che queste persone segnalano, quindi imparano gli algoritmi dalle esperienze di queste persone. Ma queste persone sono profondamente segnate.
Provate ad immaginare di guardare per 10 ore al giorno delle brutalità e delle violenze, tipo Arancia Meccanica per capirci, è ovvio che giorno dopo giorno dopo giorno il vostro cervello comincia a non funzionare più in maniera corretta. Visto che li non esistono delle tutele per il lavoro, ed è per quello anche che vengono pagati così poco, anche se poi nelle Filippine il costo della vita è molto più basso, visto che non esistono delle tutele per il lavoro che cosa succede? Succede che queste persone non hanno la possibilità di difendersi, quindi se vogliono prendere questi soldi, devono stare li e guardare quantità innumerevoli di… dalla pedofilia alla violenza, alla brutalità, alla cattiveria, a tutto quello che sappiamo che la mente umana può produrre.
Quindi da un lato abbiamo gli algoritmi che non ci piace che vaglino i nostri contenuti perché non riusciamo a controllare gli algoritmi, dall’altra parte hanno delle persone che insegnano agli algoritmi, e dall’altra parte per far si che il mondo occidentale sia tutelato dalla violenza, cosa giustissima e corretta, sottoponiamo decine e centinaia di persone all’anno alla stessa violenza, perché possano insegnare agli algoritmi che noi non volgiamo perché sono algoritmi.
Capite che siamo davanti ad una sorta di corto circuito? Evitare di produrre contenuti violenti credo sia purtroppo impossibile. Finché c’è libero arbitrio è impossibile. L’unica cosa che possiamo fare è insegnare agli algoritmi a riconoscerli, ma per insegnare agli algoritmi a riconoscerli dobbiamo sfruttare delle persone, e non possiamo sfruttare degli occidentali perché costerebbero troppo, e quindi andiamo a sfruttare noi occidentali delle persone pagate un dollaro l’ora, questi sono scarificabili evidentemente.
Un pensierino c’è da fare.
Rock & roll.
[mc4wp_form id=”19714″] Oppure seguimi sul canale Telegram da qui: se lo preferisci alla newsletter :)
Sono un docente, divulgatore, scrittore e TEDx speaker: insegno a persone ed aziende a non avere paura del digitale e a viverlo come un’opportunità, sia personale che di business.
Ho scritto 4 libri su tecnologia e digital: Web 3.0, Digital Carisma, Condivide et Impera e l’ultimo CREA contenuti efficaci.Per sapere chi è Rudy Bandiera, informazioni e contatti vai alla pagina info