Evidentemente Facebook ha del personale analfabeta funzionale dove per analfabetismo funzionale si intende l’incapacità di comprendere, valutare e usare le informazioni. Se invece non è così allora vuole dire che i millantati algoritmi semantici del social di Mark NON funzionano, con conseguente riflessione:
può un algoritmo che non capisce quello che scriviamo, tutelarci dalle fake news?
Qua non è più solo un problema di algoritmi ma dell’azienda più influente al mondo che censura o lascia passare testo senza capirne il senso.
Ma passiamo ai fatti: ieri, in data 29 novembre 2018, ho scritto il seguente contenuto su Facebook:
Come ti sentiresti se un ipotetico dog sitter robotico governato da IA attaccasse il tuo cane che entra in una aiuola recintata da un cartello con scritto “vietato calpestare l’erba”?
E riguardo a una macchina a guida automatica che si rifiuta di superare i limiti di velocità mentre ti porta in ospedale per salvarti da un attacco cardiaco?
La società modella leggi e norme in base alle scelte individuali o all’interpretazione delle stesse.
Se ci fosse Asimov risolverebbe tutto con le 3 leggi della robotica ma purtroppo non siamo in un mondo romanzato: le nostre istituzioni presto dovranno cercare di tenere in equilibrio i bisogni degli individui con i più vasti interessi della società in un modo completamente nuovo ed il problema nasce proprio dall’interpretazione delle norme e dalla morale.
È giusto superare i limiti di velocità e mettere a rischio gli altri automobilisti per salvare la vita a te che stai avendo un attacco cardiaco?
La difficoltà di “programmazione” delle intelligenze artificiali sta nella complessità di risposta a domande come questa, domande etiche che prima di tutto mettono in difficoltà noi con scelte complesse.
Opere d’arte come “Detroit: become human” ci aiutano a capire quanto il problema non sia la tecnologia ma l’etica.
Un post che parla di etica ed intelligenza artificiale. Subito dopo la pubblicazione ho sponsorizzato con 10 euro come faccio spesso, per mantenere viva la fan base. Dopo pochi minuti mi arriva una mail con scritto la seguente frase:
Alcune delle tue inserzioni non sono state approvate perché non rispettano le nostre normative pubblicitarie.
Io “faccio ricorso” attraverso l’apposito pulsante per richiedere la verifica manuale, visto che non capisco in cosa il mio contenuto possa andare contro alle norme pubblicitarie e motivo nel modo seguente:
Parlo di intelligenza artificiale e di etica nella sua applicazione. A quale norma vengo meno? Grazie
A questo punto credo di esser tranquillo per un motivo piuttosto semplice: Facebook ha dei potenti algoritmi semantici che si occupano di vagliare le parole che utilizziamo ed alcune di queste sono tabù, anche se non ci è dato sapere quali. E’ ovvio che incitazioni alla violenza o al sessismo sono keyword dalle quali FB tende, giustamente, a tutelarsi e quindi oppone una forte resistenza verso alcuni temi. Questo lo so e spesso capita di aggirare il problema dell’algoritmo con la richiesta di una verifica formale, diciamo manuale. Quella che ho fatto, appunto.
Dopo 6 ore dalla mia richiesta mi viene risposto quanto segue e come vedete nell’immagine sottostante
Salve Rudy,
Ecco cosa impedisce l’approvazione della tua inserzione:
Testo:
Il motivo dietro le nostre normative:
Questo tipo di linguaggio può essere percepito come un’offesa personale e non vogliamo che gli utenti si sentano oggetto di discriminazione. Consulta le nostre Normative pubblicitarie per maggiori informazioni (comprese le attività consigliate e da evitare).
Dal momento che non rispetta le nostre Normative pubblicitarie, che si applicano ai contenuti di un’inserzione, al suo pubblico e alla pagina di destinazione a cui rimanda, la tua inserzione non è stata approvata. Non sono consentite inserzioni che contengono volgarità, che fanno riferimento alle caratteristiche delle persone che le vedono (ad es. razza, etnia, età, orientamento sessuale, nome) o che le infastidiscono.
Soluzione: ti consigliamo di concentrarti sul tuo prodotto o servizio, anziché sul pubblico, e/o di rimuovere le volgarità dall’inserzione e/o dalla pagina di destinazione a cui rimanda.
Costernato dal fatto che non esiste alcun “testo” incriminato e che mi si dice che “Questo tipo di linguaggio può essere percepito come un’offesa personale” rileggo in profondità il mio scritto più e più volte per capire se qualcosa, anche una piccolezza, possa offendere qualcuno o qualcosa, ma non trovo nulla. NULLA.
A questo punto tento l’ultima carta per capire se esiste davvero una persona dietro a tutto questo e scrivo:
Ormai fare inserzioni è diventato impossibile, mi meraviglio di me che spendo ancora x euro all’anno per promuovere cose che possono essere offensive solo per voi, evidentemente. Non esiste nulla di offensivo in un discorso su etica e intelligenza artificiale, tranne per chi non sa leggere. Mi meraviglio anche di me che sto a rispondere. Ciao
E qui avviene il miracolo. Mi risponde una tal Elsa, che ovviamente si suppone essere una persona, con il seguente geniale fraseggio:
Salve Rudy, grazie per averci risposto.
Ci scusiamo per l’inconveniente, ma la nostra posizione in merito alla questione rimane invariata. Apprezziamo tuttavia i tuoi commenti. Li abbiamo inoltrati al nostro team. Ti aggiorneremo in caso di evoluzioni in merito alla questione.
Nel frattempo, ti invitiamo a leggere il nostro sito dedicato alle normative per creare inserzioni conformi.
Buona giornata.
Grazie per aver contattato Facebook, Elsa Facebook Ads Team
Ora, al di la dei 10 euro di inserzione e tralasciando il fatto che di certo non ho parlato con nessuno ma con dei BOT, la cosa che dovrebbe fare riflettere è che Facebook NON è in grado di capire cosa venga pubblicato sotto forma di contenuti che in questo caso non solo non sono offensivi ma che evidentemente non vengono nemmeno letti da nessuno in grado di valutare.
Capisco benissimo le difficoltà, faccio questo mestiere da troppi anni per non sapere che sul social blu vengono caricati milioni di contenuti al minuto e non è possibile vagliarli tutti, così come so bene che ci sono anche migliaia di richieste di rettifica continuative sui contenuti sponsorizzati, ma questo non deve essere un problema dell’utente.
Se la più grande piattaforma social al mondo non è in grado di identificare, nemmeno attraverso dei posticci operatori, quali possono essere le frasi offensive e quali no, come posso pensare che sia in grado di tutelare i miei dati, il pluralismo attraverso il quale accedo alle informazioni e proteggermi dalle fake news?
Instagram sostiene di essere in grado di individuare algoritmicamente quali sono i contenuti inerenti al cyberbullismo, per contrastarlo sul nascere: ci possiamo credere?
Facciamo tanto casino sulle fake news e sul loro controllo e poi il “socialone” non capisce davvero cosa scrivi e nemmeno i suoi dipendenti?
Delle due, una: o Facebook non è algoritmicamente in grado di interpretare il contenuto o i suoi dipendenti non capiscono il senso di quello che leggono. C’è quindi da fidarsi?
Lungi da me l’urlare “andiamocene da Facebook” o cose di questo tipo ma di una cosa sono certo: se dovessi investire oggi in un social per fare business o personal branding FB, alle condizioni in cui si trova, molto probabilmente non lo guarderei di striscio, con buona pace per lo stipendio di Elsa, e quando mi diranno che i potenti algoritmi di Palo Alto mi tutelano dalle fake o non permettono di manipolare le informazioni, mi riserverò di non crederci fino in fondo.
[mc4wp_form id=”19714″] Oppure seguimi sul canale Telegram da qui: se lo preferisci alla newsletter :)
Sono un docente, divulgatore, consulente e TEDx speaker: insegno a persone ed aziende a non avere paura del digitale e a viverlo come un’opportunità, sia personale che di business.
Ho scritto 3 libri su tecnologia e digital: Web 3.0, Digital Carisma e Condivide et Impera.
Per sapere chi è Rudy Bandiera, informazioni e contatti vai alla pagina info
—
Le 7 regole per vivere online | TEDxBologna | Rudy Bandiera