Meta sta introducendo un sistema che avvisa i genitori quando i figli adolescenti cercano ripetutamente su Instagram contenuti legati a suicidio e autolesionismo, ma il meccanismo è volontario e lascia irrisolti molti problemi strutturali di design e moderazione della piattaforma.
Gli avvisi arriveranno via email, SMS, WhatsApp e notifica in‑app, ma solo se genitori e ragazzi hanno attivato gli strumenti di supervisione parentale di Instagram, il che limita molto la portata del sistema perché non tutti i genitori li usano (anzi, pochi sanno che esistono) e molti ragazzi hanno account nascosti o linguaggi in codice che non vengono intercettati. Quando un genitore apre la notifica, vede un messaggio a schermo intero che spiega che il figlio ha cercato più volte contenuti pericolosi in poco tempo, con link a risorse di esperti su come affrontare la conversazione.
Guarda caso, tempismo a orologeria, direbbe qualcuno, questa implementazione arriva mentre Meta è sotto processo in California e New Mexico con l’accusa di avere creato piattaforme che generano dipendenza e che danneggiano i giovani; Instagram nega che il social renda clinicamente dipendenti, paragonando le ore passate su di una buona serie TV, pur ammettendo che qualche danno è possibile.. Gli esperti come Kris Perry parlano di “passo nella giusta direzione”, ma sottolineano che ‘sta roba, al solito, non sostituisce la responsabilità di ridisegnare l’algoritmo e le policy di contenuto per evitare che certe cose arrivino ai ragazzi, e criticano il fatto che Meta continui a scaricare gran parte dell’onere della sicurezza sui genitori invece che sulla piattaforma.
La vera cartina di tornasole sarà se Meta renderà pubblici, in modo trasparente, i risultati: calo dell’esposizione dei minori a contenuti dannosi, eventuali differenze nei tassi di ideazione o tentativi di suicidio, feedback dei genitori.
SI perché senza questi dati rischiamo l’ennesima bella impostazione di facciata, buona in tribunale e nei 6X3 lungo le strade, ma poco efficace nel cambiare la realtà VERA dagli adolescenti online. E dei loro genitori.
