Nei conflitti che abbiamo attorno (ne abbiamo un sacco da guardare tra Iran, Ucraina, Gaza, c’è abbondanza di conflitti) c’è un livello sotto la superficie in cui non si discute solo di territori, ma di chi prende la decisione finale su chi vive e chi no.

In Ucraina il 70% delle vittime è causato da droni automatici. Gaza liste di migliaia di nomi vengono date in pasto all’IA per decidere chi eliminare. È un braccio di ferro tra etica e velocità, tra il Pentagono e chi i modelli di intelligenza artificiale li crea davvero. Il punto è: vogliamo o no mantenere la responsabilità umana sulle decisioni cruciali?

Proprio ieri Caitlin Kalinowski ha rassegnato le dimissioni da OpenAI con un post che trovate su Linkedin e X. Non è una qualunque: guidava il team hardware (di ChatGPT per capirci) e prima ancora i visori AR di Meta, ma la cosa incredibile è che se n’è andata… per principio.
Ha spiegato che, pur riconoscendo il ruolo dell’IA nella sicurezza nazionale, la sorveglianza senza controllo e l’autonomia letale senza autorizzazione umana sono limiti che non si possono valicare. E io sono d’accordo con lei.

OpenAI dal canto suo prova a rassicurare: dicono che l’accordo col Pentagono serve a creare un percorso responsabile e che le loro “linee rosse” sono chiare: niente armi autonome, niente sorveglianza interna. Ma intanto i fatti parlano perché le disinstallazioni di ChatGPT sono aumentate del 295% in pochi giorni, mentre Claude di Anthropic, che su questi temi ha tenuto una linea molto più dura, finendo pure nella lista nera dei fornitori del Pentagono, ne ho parlato la scorsa settimana, è volata in cima alle classifiche.

Quello che sta succedendo oggi non è un semplice accordo con il Pentagono ma è un precedente. Se passa l’idea che puoi portare l’IA dentro ambiti militari ipersensibili, classificati, e solo dopo iniziare a discutere seriamente di regole, trasparenza e limiti d’uso, questo diventa il nuovo standard. E in quello standard, la distanza tra l’IA che supporta decisioni umane e quella che decide in autonomia chi colpire non è fatta di codice ma di governance.

La vera guerra nella guerra è questa: chi scrive le regole della macchina, prima che sia la macchina a scrivere le regole del mondo.

Siamo in un cambiamento d’epoca, non in un’epoca di cambiamenti. La tecnologia non è un accessorio, è un modo di stare al mondo e oggi più che mai richiede forza e consapevolezza. Restare umani, restare vigili e non smettere di farsi domande è l’unica vera vittoria possibile. Perché se il problema comincia a essere fuori di noi, allora il problema è proprio questo pensiero.