Il 1° dicembre 2025 l’Assemblea generale delle Nazioni Unite ha adottato la risoluzione 80/23 sui «Possible risks of the integration of artificial intelligence into command, control and communications systems of nuclear weapons». Il titolo delimita con precisione il problema: l’integrazione dell’intelligenza artificiale nei sistemi di comando, controllo e comunicazione delle armi nucleari, i cosiddetti NC3 (Nuclear Command, Control and Communications). Siamo nel cuore dell’architettura della deterrenza, in un ambito che richiede una riflessione distinta da quella, più generale, sull’impiego militare dell’IA e sulle armi autonome. La domanda che attraversa il documento merita attenzione: quanto possiamo automatizzare i processi di analisi e decisione continuando a garantire un controllo umano effettivo sull’impiego dell’arma nucleare?
L’Assemblea generale affronta la questione nella prospettiva del disarmo e della riduzione del rischio nucleare. Ribadisce che il disarmo nucleare e la completa eliminazione delle armi nucleari costituiscono l’unica garanzia assoluta contro il loro uso o la minaccia del loro uso. Finché queste armi esisteranno, però, occorreranno misure concrete, efficaci e trasparenti per ridurre i rischi. La nuclear risk reduction affianca dunque l’obiettivo del disarmo, senza prenderne il posto. Il problema dell’intelligenza artificiale si colloca proprio nello spazio, tutt’altro che agevole da governare, fra la permanenza della deterrenza e il perseguimento del disarmo.
La risoluzione prende atto della progressiva integrazione dell’IA in un numero crescente di applicazioni militari: armi, sistemi d’arma e strumenti di supporto alle operazioni. Da questa constatazione non fa discendere un’esclusione dell’intelligenza artificiale dal settore nucleare. Concentra invece l’attenzione sulle conseguenze dell’automazione quando questa entra nei processi decisionali collegati ai sistemi nucleari di comando e controllo. Ed è qui che un vantaggio tecnologico apparentemente evidente, la velocità, può diventare un problema.
L’IA permette di raccogliere, elaborare e interpretare molto più rapidamente le informazioni relative a una possibile minaccia. Nel contesto nucleare, tuttavia, la rapidità non coincide necessariamente con una maggiore sicurezza. La risoluzione osserva espressamente che i sistemi decisionali guidati dall’IA potrebbero ridurre il controllo e la supervisione umana, alterare l’ambiente nel quale si decide e comprimere il tempo disponibile per l’azione e la risposta. Il rischio è particolarmente evidente nei passaggi più sensibili, a cominciare dalla decisione di lancio: una finestra temporale più breve potrebbe aumentare la possibilità di un uso accidentale, involontario o non autorizzato dell’arma nucleare.
È questo uno dei passaggi più rilevanti del documento. La deterrenza presuppone la capacità di reagire, ma anche quella di interpretare le informazioni, distinguere un attacco effettivo da un falso allarme, valutare le intenzioni dell’avversario e decidere se e come rispondere. L’intelligenza artificiale può rafforzare alcune di queste capacità e, nello stesso tempo, accelerare il processo fino a restringere lo spazio del giudizio politico. Il problema della «macchina che decide» è quindi soltanto una parte della questione. Il decisore umano potrebbe conservare formalmente l’ultima parola, ma trovarsi a esercitarla in condizioni informative e temporali così dipendenti dall’automazione da avere ben poco margine per una valutazione autonoma.
A questo rischio se ne aggiungono altri, legati alle caratteristiche tecniche dei sistemi. La risoluzione richiama malfunzionamenti, sfruttamento delle vulnerabilità, intrusioni, bias cognitivi e di automazione presenti nei dati di addestramento o nella progettazione algoritmica, oltre alla possibilità di generare «hallucinations» e risultati errati, inaccurati o fuorvianti. Nei sistemi nucleari, avverte l’Assemblea generale, gli effetti potrebbero essere catastrofici. Valutare l’affidabilità dell’IA soltanto sulla base della probabilità statistica di errore sarebbe perciò insufficiente: conta anche ciò che quell’errore può provocare. Un evento estremamente improbabile può risultare strategicamente inaccettabile se fra le sue possibili conseguenze vi è l’impiego di un’arma nucleare.
Nella parte operativa, la risoluzione affronta direttamente il controllo umano. L’Assemblea generale «demands» che, fino alla completa eliminazione delle armi nucleari, siano mantenuti il controllo e la supervisione umana sui sistemi NC3, compresi quelli nei quali siano integrate tecnologie di intelligenza artificiale. La formulazione merita di essere considerata con attenzione: il richiamo allo human control riguarda espressamente le infrastrutture di comando, controllo e comunicazione. Si estende quindi all’intera catena tecnologica e decisionale che può concorrere all’utilizzazione dell’arma, oltre all’arma in senso stretto.
Il paragrafo successivo precisa ulteriormente questa impostazione. Gli Stati dotati di armi nucleari che non lo abbiano ancora fatto sono invitati ad adottare e rendere pubbliche politiche e dottrine nazionali nelle quali si affermi esplicitamente che i sistemi NC3 con componenti di IA rimarranno sottoposti a controllo e supervisione umana. Soprattutto, tali politiche dovrebbero affermare che questi sistemi non potranno «autonomously initiate decisions on the use of nuclear weapons». Emerge così una distinzione importante fra il supporto algoritmico alla decisione e l’autonomia decisionale.
Raccogliere informazioni, individuare regolarità nei dati, valutare scenari, verificare elementi informativi o assistere chi deve decidere sono funzioni che, almeno in linea di principio, possono essere affidate all’IA. La soglia che la risoluzione cerca di preservare riguarda l’iniziativa autonoma nella decisione di utilizzare un’arma nucleare. Il documento tenta dunque di delineare un limite funzionale, senza introdurre un divieto generale dell’intelligenza artificiale nei sistemi nucleari: alcune attività possono essere assistite o automatizzate, mentre la decisione sull’impiego dell’arma deve restare soggetta a un controllo umano effettivo.
Rimane da capire, però, che cosa debba intendersi precisamente per «human control and oversight». La presenza di una persona nella catena decisionale, da sola, dice poco sulla sua possibilità concreta di controllare il processo. Se dispone di pochi secondi per reagire, non comprende adeguatamente il funzionamento del sistema, riceve informazioni filtrate da algoritmi poco trasparenti o tende ad affidarsi sistematicamente ai risultati prodotti dalla macchina, il suo controllo rischia di essere soltanto nominale. È su questo punto che si misurerà la portata del principio enunciato dalla risoluzione.
Il dibattito internazionale dovrà probabilmente concentrarsi sempre più sulle condizioni che rendono il controllo umano «effettivo» o «significativo». Avere tempo sufficiente per decidere, comprendere le informazioni ricevute, poter verificare i risultati del sistema e interrompere il processo, sapere a chi è attribuita la responsabilità: sono tutti elementi che potrebbero assumere un ruolo centrale. Affermare il principio è un primo passo; stabilire quando esso sia davvero rispettato pone questioni ben più difficili.
La risoluzione registra anche una prima convergenza fra alcune potenze nucleari. Richiama la dichiarazione del 16 novembre 2024 con cui Cina e Stati Uniti hanno affermato la necessità di mantenere il controllo umano sulla decisione di utilizzare armi nucleari. Ricorda inoltre la posizione di Francia e Regno Unito, favorevoli al mantenimento del controllo e del coinvolgimento umano nelle azioni critiche relative alla formazione e all’esecuzione delle decisioni sovrane. Queste dichiarazioni non bastano a delineare una regola internazionale specificamente definita. Possono però contribuire a costruire un linguaggio comune e, potenzialmente, a far maturare una norma di comportamento condivisa.
In questa prospettiva va letto il terzo paragrafo operativo, che sottolinea l’urgenza di sviluppare, nei meccanismi multilaterali e regionali competenti, «common understandings», confidence-building measures e altre misure appropriate per assicurare la permanenza del controllo umano sui sistemi nucleari. Si apre così la possibilità che l’IA applicata alla deterrenza entri progressivamente nel campo del controllo degli armamenti. Almeno in una prima fase, appare più realistico immaginare dichiarazioni unilaterali, accordi politici, misure di trasparenza e di rafforzamento della fiducia, hotline, scambi di informazioni sulle dottrine e impegni reciproci a mantenere determinate funzioni sotto controllo umano, piuttosto che un grande trattato dedicato all’intelligenza artificiale e alle armi nucleari.
C’è poi un aspetto del documento che merita di non essere trascurato. L’Assemblea generale riconosce anche le opportunità offerte dall’IA per rafforzare la verifica, l’irreversibilità, la trasparenza e l’accountability nel disarmo nucleare, e invita a promuovere ricerca e innovazione in questo settore. La stessa tecnologia che può destabilizzare la deterrenza, accelerando le decisioni, producendo informazioni errate o indebolendo il controllo umano, può contribuire alla stabilità quando migliora la verifica degli accordi, permette di analizzare grandi quantità di dati, aiuta a individuare violazioni o rafforza gli strumenti di monitoraggio e trasparenza.
Il giudizio sull’intelligenza artificiale dipende dunque dalle funzioni che le vengono attribuite e dal grado di autonomia riconosciuto ai sistemi. Chiedersi se sia astrattamente compatibile con la deterrenza nucleare rischia di lasciare irrisolto proprio questo punto. La risoluzione 80/23 sembra suggerire un criterio che potrebbe acquistare crescente importanza: quanto più una funzione tecnologica si avvicina alla decisione sull’impiego dell’arma nucleare, tanto più solide devono essere le garanzie di controllo umano.
La trasformazione tecnologica potrebbe infatti incidere sulla stessa logica della stabilità strategica, oltre che sugli strumenti utilizzati per decidere. Per decenni, al centro della riflessione vi è stata l’esigenza di evitare che una crisi politica sfociasse intenzionalmente in una guerra nucleare. Con l’intelligenza artificiale occorrerà impedire anche che le interazioni fra sistemi automatizzati, i falsi segnali, i cyberattacchi, la compressione dei tempi decisionali e l’automation bias inneschino un’escalation che nessuno degli attori aveva inizialmente intenzione di avviare.
La risoluzione dell’Assemblea generale segna, in questo senso, l’avvio della costruzione di una disciplina internazionale ancora da definire. Lascia aperta una domanda destinata probabilmente a occupare un posto centrale nel rapporto fra intelligenza artificiale, sicurezza internazionale e controllo degli armamenti: se la deterrenza continua a dipendere dalla capacità umana di valutare, interpretare e decidere, fino a che punto possiamo automatizzarne i sistemi senza cambiare la natura stessa della decisione nucleare?
