Quando il capo della Federal Reserve americana convoca una riunione urgente con tutti i CEO delle banche del paese, di solito è perché sta per succedere qualcosa di incasinante o è già successo. Questa volta il motivo non era un crollo di borsa, ma un modello di intelligenza artificiale.

Anthropic ha sviluppato un modello, chiamato Mythos, così capace che l’azienda ha deciso di non rilasciarlo pubblicamente. Non perché non funzionasse, ma perché funzionava fin troppo bene. Nei test, questo modello riusciva a individuare vulnerabilità di sicurezza praticamente in ogni software esistente, dalle banche alle reti elettriche, dai sistemi idrici a qualsiasi infrastruttura che avesse del codice al suo interno. In pratica, uno strumento capace di smontare pezzo per pezzo la sicurezza digitale di mezzo mondo, se finito nelle mani sbagliate.

E qui la domanda sorge spontanea: sarà vero, o è solo un ottimo modo per fare marketing dicendo al mondo “siamo così ca***ti da essere vietati”? Perché diciamocelo, non c’è pubblicità migliore per un’azienda di intelligenza artificiale che ammettere di aver costruito qualcosa di troppo potente per essere messo in circolazione.

C’è però un dettaglio che cambia la prospettiva: quando Jamie Dimon, uno che di sicurezza informatica se ne intende parecchio, definisce la situazione un allarme di massimo livello, e quando l’intero sistema bancario americano viene messo in stato di allerta per integrare in fretta questo strumento nei propri sistemi di difesa, allora forse non stiamo parlando solo di comunicazione aziendale ben orchestrata. Forse il rischio è reale.

La cosa che mi lascia più perplesso, ve lo dico da divulgatore che segue questi temi ogni giorno, è che se ne parli così poco rispetto a quanto si parla di guerre e tensioni geopolitiche, quando in realtà questo tipo di rischio potrebbe toccare la vita quotidiana di tutti noi molto più in fretta e molto più direttamente di un conflitto dall’altra parte del mondo.

La domanda che ci dovremmo fare non è se questi strumenti diventeranno ancora più potenti, ma chi avrà il compito di controllarli prima che facciano i danni veri.