Un ricercatore di Anthropic (che fa Claude, una delle l’IA più cool del momento) si è appena dimesso lasciando sul tavolo una cifra a otto zeri in azioni, per andare in giro a dire che rischiamo l’estinzione entro la fine del decennio. Evviva.

I giornali, ovviamente, ci sono andati a nozze, titoli su un “dio macchina” cosciente pronto a spazzarci via ma vi tolgo subito un peso, quel dio macchina non esiste e non esisterà. Un modello di Intelligenza Artificiale, quando nessuno gli fa una domanda, non pensa a niente. Zero.
A noi ci piace un sacco umanizzare gli oggetti ma una macchina che sembra intelligente non ha un flusso di coscienza che scorre nel silenzio, non sta lì a rimuginare mentre voi dormite, e soprattutto non impara nulla dalle conversazioni che avete con lui. Quando sembra ricordarsi il vostro nome o le vostre cose preferite, in realtà sta solo consultando un archivio esterno da zero ogni volta, come un cameriere che si rilegge gli appunti prima di portarvi il caffè giusto. Sarà pure inquietante ma non è coscienza, è database.

Il pericolo vero non è quello che ci raccontano i film tipo Terminator ma è molto più noioso e molto più umano, ed è questo: l’Intelligenza Artificiale probabilmente non sa inventare nulla di completamente nuovo, ma è mostruosamente brava a fare innovazione derivata, cioè prendere cose già note e spingerle oltre con una pazienza e velocità infinite che nessun essere umano si può permettere.
Quest’anno un modello della famiglia Claude ha smontato una congettura matematica rimasta irrisolta per decenni, generando un numero folle di tentativi finché non ne ha trovato uno che funzionava. Non serviva genio, serviva solo non stancarsi mai, e infatti nessun matematico l’aveva mai fatto perché era troppo lungo e, di fatto, una gran rottura.
Ora, quanti “problemi derivati” esistono là fuori che nessuno ha mai risolto non perché impossibili, ma perché nessuno di noi, per etica, li avrebbe mai voluti risolvere? Una macchina senza senso morale e con quella stessa pazienza infinita applicata a scopi sbagliati, ecco dove dovremmo guardare davvero come rischio.

Non dobbiamo avere paura del computer che si sveglia una notte e decide di picchiarci (anche se io sono sempre gentile con Claude per evitare che avvenga), ma dobbiamo preoccuparci di chi decide gli obiettivi da dargli in mano.