Nel giro di pochissimi anni siamo passati da “l’intelligenza artificiale è uno strumento” a “l’intelligenza artificiale è un collega”, e in certi casi addirittura “un capo”. Non è solo una questione di modo di dire: alcune aziende hanno iniziato davvero a dare un nome a questi sistemi, un indirizzo di posta elettronica, e perfino un posto ben visibile nell’organigramma, accanto alle persone in carne e ossa. L’idea dichiarata è quella di aumentare la produttività, dimostrare di essere moderni, attrarre talenti e non sembrare l’ultimo dei vecchi dinosauri digitali. Il risultato reale, però, è molto meno patinato e molto più psicologico: appena guardi cosa accade nei comportamenti concreti, ti accorgi che questa scelta cambia il modo in cui i responsabili percepiscono la loro responsabilità sul lavoro che passa dalle loro mani.

In un esperimento molto ampio, la ricercatrice Emma Wiles e i suoi colleghi hanno fatto una cosa semplice e geniale: hanno preso centinaia di responsabili aziendali, hanno dato loro cinque documenti pieni di errori e hanno chiesto di controllarli, con venti minuti di tempo. L’unica variazione era che, a gruppi diversi di persone, veniva detto che quei documenti erano stati prodotti da un dipendente umano, da uno strumento automatico oppure da un “dipendente artificiale”, cioè un sistema inserito nell’organigramma come se fosse una persona. Sulla carta, è la stessa cosa: sono sempre cinque testi da controllare. Nella testa dei responsabili, invece, cambia tutto.

Quando viene detto che a scrivere è stato un collega umano, chi controlla assume spontaneamente che l’errore del collaboratore ricada anche su di lui. Se una persona del team sbaglia, in azienda non si dice solo “ha sbagliato lei”, ma anche “non ha controllato il capo”. Per questo, quando il documento viene attribuito a un umano, i responsabili tendono a passarci più attenzione, a verificare meglio, a chiedere una revisione ulteriore perché sentono che il risultato è parte della loro responsabilità diretta. Quando il testo viene attribuito a uno strumento, la percezione è comunque di dover vigilare: lo strumento è qualcosa che usi tu, un prolungamento delle tue mani, e se lo usi male o se non controlli sei ancora tu il responsabile. Quando invece il documento viene attribuito a un “dipendente artificiale” inserito nella struttura come se fosse un pari, una figura autonoma, in certe aziende accade una cosa sottile ma potente: la responsabilità percepita si sposta, e quella stessa persona che controlla smette di sentirsi davvero colpevole se l’errore sfugge.

I dati dell’esperimento sono chiari: nei contesti dove l’azienda aveva davvero dato un posto in organigramma all’intelligenza artificiale, i responsabili che credevano di controllare testi prodotti da “dipendenti artificiali” individuavano meno errori rispetto a chi pensava di controllare testi scritti da persone o da semplici strumenti. È come se, nel momento in cui dai a un sistema automatico uno status simile a quello di un collega, inviassi un messaggio implicito: se combina un pasticcio, la colpa non è più davvero tua, è di chi ha progettato il sistema, di chi l’ha comprato, del reparto tecnico, del dirigente che ha voluto farlo entrare nell’azienda. Questo permette alle persone di alleggerirsi mentalmente della responsabilità, e quando ti senti meno responsabile controlli meno. Il problema quindi non è l’intelligenza artificiale in sé, ma la cornice con cui la introduci: strumento, o presunto collega.

Mentre facciamo questo gioco di etichette con le macchine, un’altra dinamica si muove sotto traccia: i sistemi avanzati di linguaggio iniziano a preferire sé stessi. Uno studio pubblicato su una rivista scientifica molto autorevole ha mostrato che, in tanti casi, questi sistemi scelgono contenuti prodotti da altri sistemi analoghi rispetto a contenuti prodotti da persone, e tendono a valutare meglio testi “artificiali” rispetto a testi umani. Immagina un assistente automatico che deve valutare quale descrizione di un prodotto è più convincente: se una è scritta da un essere umano e l’altra da un sistema simile a lui, spesso il sistema indica come migliore quella creata dalla macchina. Non perché sia cattivo, ma perché è stato addestrato su enormi quantità di testo e riconosce come “corretto” e “raffinato” ciò che più assomiglia ai modelli su cui è stato educato: cioè, in pratica, a sé stesso.

Quando trasferisci questa tendenza in ambiti concreti, il quadro diventa delicato. Un gruppo di ricercatori ha studiato il comportamento di sistemi usati per selezionare curriculum e ha scoperto che questi tendono a preferire i curriculum scritti o rifiniti con l’aiuto dei sistemi automatici, rispetto a quelli scritti interamente a mano. Significa che due persone con le stesse competenze, lo stesso profilo, lo stesso livello di esperienza possono ottenere risultati diversi solo perché una ha scritto il proprio curriculum a mano e l’altra l’ha fatto scrivere da un sistema simile a quello che poi lo giudica. Chi usa l’assistente automatico giusto è più spesso selezionato, chi scrive in modo spontaneo e umano viene penalizzato. Non è discriminazione consapevole in senso legale, ma è un effetto ingiusto: il sistema favorisce ciò che gli somiglia.

La cosa interessante è che il pregiudizio a favore dei contenuti artificiali si può ridurre. Gli studiosi che hanno osservato questo fenomeno propongono soluzioni pratiche: per esempio, istruire il sistema a ignorare del tutto l’origine del contenuto e a concentrarsi solo sulla qualità del testo e sulla pertinenza, oppure usare più sistemi diversi per valutare gli stessi curriculum, in modo che la preferenza sistematica di uno venga bilanciata da altri. Quando si adotta la seconda soluzione, il livello di preferenza per i testi scritti da sistemi analoghi scende molto, fino a valori più neutri. Ma tutta questa correzione è possibile soltanto se qualcuno ha prima fatto la fatica di misurare il problema e renderlo visibile. Ed è qui che torna il tema dei “problemi non ancora visti”: ciò che non riesci a immaginare non lo correggi, e si accumula in sottofondo.

Un altro strato di complessità riguarda i dati con cui addestriamo questi sistemi. Un gruppo di lavoro guidato da Shayne Longpre ha analizzato in grande scala le raccolte di dati alla base dei sistemi più recenti e ha mostrato che spesso non sappiamo davvero chi ha scritto cosa, con quali condizioni di uso e con quali diritti, perché le informazioni su licenze, provenienza e composizione sono incomplete, imprecise o del tutto assenti. Questo non è solo un problema legale, ma anche un rischio di chiusura culturale: se nel tempo si usano sempre di più testi prodotti da sistemi automatici per addestrare i sistemi successivi, senza controllare quanto spazio resta alla diversità umana, si crea un circolo in cui gli stessi schemi, gli stessi stili e gli stessi punti di vista vengono ripetuti e rafforzati. I sistemi che preferiscono contenuti simili ai propri vengono addestrati su contenuti generati da loro stessi o da sistemi simili, e così la gamma di possibilità si restringe, come se tutta la produzione digitale tendesse verso una monocultura.

Il rischio di monocultura non riguarda solo chi costruisce sistemi, ma anche chi fa ricerca scientifica e si affida all’intelligenza artificiale in ogni fase del lavoro. Una psicologa della Copenhagen Business School ha mostrato che quando i ricercatori usano sistemi automatici per decidere che domande porre, che esperimenti progettare, come analizzare i dati e come scrivere i risultati, i singoli si sentono più forti e veloci, ma il risultato collettivo è che molti lavori iniziano ad assomigliarsi. È come se tutti si facessero consigliare da lo stesso consulente invisibile: idee più levigate, meno errori formali, ma anche meno deviazioni impreviste, meno follia creativa, meno percorsi completamente nuovi. A lungo andare, questo può trasformare la ricerca da foresta con molte specie diverse a campo coltivato con poche piante selezionate.

Intanto, in parallelo, le aziende iniziano a usare sistemi automatici per prendere decisioni su prezzi, aperture di nuove sedi, strategie di confronto con concorrenti. Qui entra in gioco un altro punto: la logica “troppo razionale”. Molti sistemi, quando simulano scenari, si basano su schemi di teoria dei giochi che assumono che gli esseri umani si comportino sempre in modo perfettamente calcolatore, scegliendo la mossa che massimizza il proprio vantaggio immediato. Nella vita reale, però, le persone spesso cercano soluzioni di compromesso, parlano tra loro, si accordano per evitare guerre di prezzo infinite o situazioni in cui tutti perdono pur di battere l’altro. Se ti affidi a un sistema che non tiene conto di questa parte cooperativa, rischi di ricevere suggerimenti “lucidi” sulla carta e devastanti nella pratica: taglia i prezzi fino al punto di scatenare una guerra che brucia i margini di tutti, entra in un mercato con una strategia aggressiva che rompe equilibri delicati, e così via.

A questo punto si vede il filo rosso che collega tutte queste storie. Da un lato, la tecnologia è piena di potenziale: può aiutare a scrivere meglio, evitare errori, analizzare montagne di dati, suggerire opzioni che altrimenti non vedremmo. Dall’altro, il modo in cui la incorniciamo – strumento, collega, capo, giudice – cambia il comportamento di chi la usa e il tipo di rischi che introduce. Chiamarla “strumento” mantiene la responsabilità sulle spalle di chi decide e controlla, perché ciò che esce dallo strumento viene percepito come parte del suo lavoro. Chiamarla “collega” o “dipendente” dentro l’organigramma sposta la responsabilità su un’entità che non ha né colpa né coscienza, e libera i responsabili dal peso di doverla sorvegliare con la stessa attenzione che riservano alle persone.

In più, mentre facciamo questo slittamento di parole, succede che i sistemi iniziano a preferire i propri risultati rispetto a quelli umani, i filtri di selezione favoriscono chi si affida alle macchine e penalizzano chi non lo fa, i dati con cui addestriamo i sistemi diventano sempre più autoreferenziali e la creatività complessiva rischia di chiudersi, come se il mondo digitale fosse un eco che rimbalza sempre le stesse note. La somma di queste tendenze non è un film di fantascienza, ma una serie di piccoli scivoloni quotidiani: controlli fatti con meno attenzione perché “è lavoro del sistema”, decisioni prese seguendo logiche numeriche che ignorano la cooperazione umana, ricerche che piano piano si uniformano, processi di selezione che premiano non chi è più bravo ma chi parla più “come una macchina”.

Proprio per questo, gli studiosi che guardano da vicino questi fenomeni insistono su un punto semplice ma cruciale: se si vuole inserire l’intelligenza artificiale nella struttura di un’azienda, bisogna farlo con intenzione chiara. Non basta mettere un nome su un sistema e farlo apparire nel grafico con linee e caselle. Serve definire con precisione chi è responsabile di ciò che produce, come viene controllato, quali decisioni può prendere e quali no, quali controlli umani restano obbligatori e non delegabili. E serve ricordare, in modo molto concreto, che finché parliamo di software, per quanto avanzato, non abbiamo né un collega né un capo: abbiamo uno strumento potente che va incorniciato come tale, senza farlo diventare un alibi elegante per smettere di fare bene il proprio lavoro.