Anthropic sfida il Pentagono: no alla sorveglianza di massa e alle armi autonome

Dario Amodei, fondatore e amministratore delegato di Anthropic, ha detto no al Pentagono: la sua azienda non rimuoverà i limiti di sicurezza dal suo modello di intelligenza artificiale Claude, anche a costo di perdere il contratto con l'esercito americano. È una sfida aperta all'amministrazione Trump, che si concluderà entro venerdì 27 febbraio con la scadenza imposta dal Segretario alla Difesa Pete Hegseth.

Al centro della disputa c'è una domanda semplice ma dalle implicazioni enormi: chi decide come viene usata l'intelligenza artificiale in ambito militare? Il Pentagono vuole accesso illimitato a Claude per qualsiasi uso ritenuto legale. Anthropic si oppone su due punti precisi: la sorveglianza di massa dei cittadini americani e l'uso di Claude in sistemi d'arma completamente autonomi, ossia quelli in grado di selezionare e colpire bersagli senza nessun intervento umano.

In un comunicato pubblicato giovedì sera, Amodei ha scritto che queste due limitazioni "non sono mai state incluse nei contratti con il Dipartimento della Difesa" e che non dovrebbero esserlo nemmeno in futuro. "Queste minacce non cambiano la nostra posizione: non possiamo in coscienza cedere alla loro richiesta", ha dichiarato. Sulla sorveglianza, Amodei ha spiegato alla BBC che l'intelligenza artificiale può aggregare dati dispersi e apparentemente innocui, come spostamenti, navigazione web e associazioni personali, per costruire automaticamente e su scala enorme un quadro dettagliato della vita di qualsiasi persona. Un potere che, a suo avviso, è incompatibile con i valori democratici.

Sul fronte delle armi autonome, la posizione di Anthropic è diversa per natura ma ugualmente netta. Amodei ha dichiarato alla BBC che i sistemi di intelligenza artificiale attuali "non sono semplicemente abbastanza affidabili" per questo tipo di applicazioni, e che fornire un prodotto che mette a rischio soldati e civili americani è fuori discussione. L'azienda ha offerto di collaborare con il Pentagono su ricerca e sviluppo per migliorare l'affidabilità di questi sistemi, ma l'offerta non è stata accettata.

La tensione tra le due parti è esplosa pubblicamente martedì 24 febbraio, quando Hegseth ha convocato Amodei al Pentagono per un incontro che le fonti hanno descritto come "non amichevole". In quella sede, il Segretario alla Difesa ha fissato la scadenza di venerdì sera e ha minacciato misure straordinarie in caso di mancato accordo. La prima è l'invocazione del Defense Production Act, una legge del 1950 che consente al governo di obbligare aziende private a soddisfare esigenze di difesa nazionale. La seconda è la designazione di Anthropic come "rischio per la catena di fornitura", un'etichetta normalmente riservata ad aziende straniere considerate ostili, come la cinese Huawei, e che impedirebbe a qualsiasi altro fornitore del Pentagono di usare i prodotti di Anthropic.

Nella notte tra mercoledì e giovedì, il Pentagono ha inviato ad Anthropic quella che ha definito la sua offerta finale. L'azienda l'ha respinta: un portavoce ha dichiarato a CBS News che il nuovo testo contrattuale "non ha fatto quasi nessun progresso nel prevenire l'uso di Claude per la sorveglianza di massa degli americani o nelle armi completamente autonome", aggiungendo che il linguaggio presentato come compromesso era accompagnato da formule giuridiche che avrebbero di fatto permesso di ignorare le tutele a discrezione. Emil Michael, Sottosegretario alla Difesa, ha attaccato personalmente Amodei su X, scrivendo che il fondatore di Anthropic "non vuole altro che controllare personalmente l'esercito americano". Un ex funzionario del Dipartimento della Difesa, che ha chiesto di restare anonimo, ha invece detto alla BBC che le basi giuridiche invocate da Hegseth per entrambe le misure sono "estremamente fragili".

La posta in gioco finanziaria per Anthropic è relativamente limitata: il contratto con il Pentagono vale 200 milioni di dollari, una cifra modesta rispetto ai 14 miliardi di dollari di fatturato dell'azienda. Ma le implicazioni strategiche sono ben più serie. Se Anthropic venisse classificata come rischio per la catena di fornitura, tutti i fornitori del Dipartimento della Difesa sarebbero di fatto costretti a smettere di usare i suoi prodotti. I concorrenti sono già in coda: xAI di Elon Musk ha già accettato le condizioni del Pentagono per l'uso in ambienti classificati, e Google ha di recente eliminato dai suoi codici etici il divieto di sviluppare tecnologie per scopi militari e di sorveglianza.

Elke Schwarz, professoressa di teoria politica alla Queen Mary University of London, e Neil Renic, ricercatore di etica all'University of New South Wales, hanno scritto su The Conversation che questa vicenda rappresenta un momento cruciale per il settore. I due accademici, entrambi affiliati all'International Committee for Robot Arms Control, hanno sottolineato che il linguaggio etico abbonda nelle comunicazioni delle aziende della Silicon Valley, ma che le azioni etiche comportano spesso un costo reale. Quel costo, per Anthropic, potrebbe arrivare già entro venerdì sera.

Owen Daniels, direttore associato dell'analisi e ricercatore presso il Center for Security and Emerging Technology della Georgetown University, ha dichiarato all'Associated Press che il margine di manovra di Anthropic è limitato: "I concorrenti di Anthropic, tra cui Meta, Google e xAI, si sono detti disposti a rispettare la politica del Dipartimento sulla possibilità di usare i modelli per tutte le applicazioni legali. Quindi il potere contrattuale dell'azienda è limitato, e rischia di perdere influenza nella spinta del Dipartimento ad adottare l'intelligenza artificiale".

Amodei ha detto di sperare che il Pentagono riconsideri la sua posizione, e ha assicurato che, in caso di rottura, Anthropic collaborerà per garantire una transizione senza interruzioni verso un altro fornitore. La risposta del Dipartimento della Difesa arriverà entro le 17.01 di venerdì, ora di Washington.