Stati Uniti e Russia hanno fatto eliminare dalla bozza negoziata alle Nazioni Unite alcune garanzie sull’impiego dell’intelligenza artificiale nelle armi autonome. Tra queste, l’obbligo di sottoporre a una verifica umana i bersagli individuati dall’IA prima di un attacco. Lo riferisce il Washington Post, sulla base dei documenti esaminati e delle testimonianze di tre persone informate sui negoziati, svolti a Ginevra all’inizio di settembre. La bozza non è vincolante, ma rappresenta il passo più avanzato compiuto finora in sede ONU verso un possibile Trattato sulle armi autonome letali.
Le modifiche sono arrivate nell’ultima giornata di lavori. In circa 15 ore, le delegazioni americana e russa hanno fatto togliere anche i requisiti secondo cui i sistemi avrebbero dovuto funzionare in modo "prevedibile" e "affidabile", oltre a una clausola che imponeva di considerare gli aspetti etici del loro impiego. La sessione si è svolta a porte chiuse, con le telecamere dell’ONU spente e senza gli osservatori della società civile.
Secondo le fonti del Washington Post, Washington e Mosca disponevano ciascuna di circa 10 giuristi, e le modifiche si sono susseguite a un ritmo difficile da seguire per le delegazioni più piccole. Il Dipartimento di Stato americano, il Ministero degli Esteri russo e l’ONU non hanno risposto alle richieste di commento del giornale. Verity Coyle, vicedirettrice della divisione armi di Human Rights Watch, avverte però che regole deboli potrebbero consentire alle macchine di prendere decisioni di vita o di morte senza controllo umano, aumentando i rischi per i civili e rendendo più difficile accertare le responsabilità.
Il passaggio di novembre
I negoziati non stanno producendo, per ora, obblighi giuridici. Ma dal 16 al 20 novembre, a Ginevra, la settima conferenza di riesame della Convenzione su certe armi convenzionali esaminerà il lavoro svolto e i possibili passi successivi. Un’eventuale intesa vincolante richiederà il consenso degli Stati partecipanti. Nicole van Rooijen, direttrice esecutiva della coalizione Stop Killer Robots, sostiene che Stati Uniti e Russia si oppongano a regole vincolanti sulle armi autonome e possano usare il loro peso diplomatico per ostacolare un Trattato che invece è sostenuto da molti altri Paesi.
Nel frattempo, il Pentagono sta rivedendo la propria direttiva sulle armi autonome, adottata nel 2012 e aggiornata nel 2023. Un memorandum presidenziale di giugno ha chiesto un nuovo aggiornamento entro 90 giorni, ma alla fine di settembre il nuovo testo non risulta ancora pubblicato. La direttiva del 2023 richiede che comandanti e operatori possano esercitare un adeguato giudizio umano sull’uso della forza e impiegare i sistemi nel rispetto del diritto di guerra e dei trattati applicabili. A giugno il senatore democratico Ruben Gallego aveva chiesto al Segretario alla Difesa Pete Hegseth se una revisione affrettata tenesse conto dei rischi di fuoco amico, vittime civili e manipolazioni da parte di avversari stranieri.
L’IA nelle operazioni militari
L’intelligenza artificiale è già impiegata nelle operazioni militari, anche per individuare possibili bersagli. Secondo il Washington Post, nelle prime 24 ore della guerra con l’Iran le forze americane hanno usato Claude, il sistema di Anthropic integrato nel Maven Smart System del Pentagono, per identificare quasi mille obiettivi. Il giornale riferisce inoltre che Israele ha fatto ampio ricorso all’IA nelle proprie operazioni a Gaza. L’impiego di un sistema per individuare bersagli, però, non implica di per sé che la decisione di colpirli sia stata automatica.
Questa settimana, al Consiglio di Sicurezza dell’ONU, Sam Altman di OpenAI e Dario Amodei di Anthropic hanno invitato i governi a collaborare sulle regole per l’IA. Altman ha sostenuto che debbano essere definite attraverso processi democratici e che, sul piano internazionale, serva cooperazione. Amodei ha proposto invece accordi mirati, tra cui un divieto dell’uso dell’IA per produrre armi biologiche e un sistema comune per segnalare gli incidenti di sicurezza. Martedì, all’Assemblea Generale, Trump ha invece respinto l’idea di un sistema internazionale di controllo dell’intelligenza artificiale.
Richard Lennane, consigliere per il disarmo del Comitato internazionale della Croce Rossa, osserva che i Trattati su altre categorie di armi hanno contribuito a limitarne l’uso. A suo giudizio, un accordo sulle armi autonome potrebbe incidere sui comportamenti degli Stati anche semplicemente fissando norme condivise.
