Scienziati stranieri hanno usato i modelli di intelligenza artificiale di Anthropic per ricerche che avrebbero potuto contribuire allo sviluppo di armi biologiche. Apparati di sicurezza di diversi Paesi li hanno invece impiegati per sorvegliare dissidenti e oppositori, mentre gruppi armati se ne sono serviti per progettare missili e droni. È quanto sostiene la stessa azienda americana in un rapporto di quasi 150 pagine pubblicato giovedì, che raccoglie i casi di abuso del suo modello Claude individuati e bloccati tra dicembre 2025 e agosto 2026.
Dalle ricerche sui patogeni alla progettazione di armi
Anthropic ha individuato quest'anno almeno cinque casi in cui scienziati di Paesi non precisati hanno usato Claude per studiare patogeni pericolosi, nell'ambito di ricerche che avrebbero potuto essere collegate a programmi di armi biologiche. L'azienda non ha diffuso nomi, istituzioni, Paesi o agenti coinvolti perché non è riuscita a stabilire se le ricerche avessero finalità legittime: gli stessi studi che possono contribuire allo sviluppo di vaccini possono infatti essere utilizzati anche per rendere più pericolosi i patogeni.
Jacob Klein, responsabile dell'intelligence sulle minacce di Anthropic, ha spiegato al New York Times che nessuno dichiara apertamente, "come in un fumetto", di voler costruire un'arma biologica e che la situazione è "estremamente sfumata". In uno dei casi, a maggio, uno scienziato ha chiesto a Claude di aiutarlo a scrivere una domanda di finanziamento per esperimenti sul virus chikungunya, trasmesso dalle zanzare, con l'obiettivo di renderlo più dannoso. Si tratta di una ricerca cosiddetta "gain of function", o di aumento di funzione, che può contribuire allo sviluppo di nuovi vaccini ma anche produrre versioni più aggressive dei virus.
A preoccupare Anthropic è stato soprattutto il fatto che il lavoro si sarebbe svolto in un istituto di ricerca militare. In un altro caso, un ricercatore che sembrava lavorare per un programma statale ha studiato composti che possono essere utilizzati sia come farmaci sia come sostanze tossiche. In un terzo, un ricercatore al di fuori degli Stati Uniti ha trascorso settimane utilizzando Claude per studiare esperimenti sull'adattamento di un virus dell'influenza aviaria altamente patogena.
Secondo Anthropic, alcuni ricercatori hanno aggirato i blocchi geografici che impediscono di usare Claude da determinate regioni e hanno cercato di nascondere lo scopo delle loro ricerche per eludere i controlli. L'azienda cerca, infatti, di impedire l'accesso ai propri modelli dai principali avversari degli Stati Uniti, tra cui Russia, Cina e Iran, ma molti utenti riescono comunque ad accedervi attraverso reti private virtuali, account falsi o rubati e intermediari specializzati.
Andrew Weber, ex sottosegretario alla Difesa per i programmi di difesa nucleare, chimica e biologica durante l'Amministrazione Obama, ha letto il rapporto prima della pubblicazione. Weber ha parlato al New York Times di esempi "agghiaccianti" di programmi statali di armi biologiche che sfruttano le capacità dell'intelligenza artificiale e ha chiesto di limitare l'accesso a questi strumenti ai soli ricercatori considerati affidabili.
Il rapporto documenta anche una forma di abuso che Anthropic definisce nuova: l'impiego di Claude per sviluppare software destinato alla progettazione di armi convenzionali, dalle armi da fuoco ai missili, fino ai droni armati e alle bombe. I casi individuati sono in totale 6: 3 in Cina, 2 in Russia e 1 nello Yemen. Nel caso yemenita, una cellula nel nord del Paese, che secondo il New York Times è chiaramente riconducibile agli Houthi alleati dell'Iran, lavorava alla costruzione di un missile guidato, a un missile balistico multistadio e a un sistema d'arma ipersonico a planata. In Russia, invece, un operatore indipendente ha cercato di costruire droni in grado di condurre autonomamente attacchi kamikaze.
Sorveglianza di massa e repressione dei dissidenti
In Mali, un solo consulente delle autorità di sicurezza nazionale ha usato Claude per scrivere il codice di una piattaforma di intercettazione di massa in grado di sorvegliare le comunicazioni attraverso tutti gli operatori mobili del Paese e di produrre dossier sulle persone prese di mira. Ma anche attori legati ai governi di Cina e Iran hanno utilizzato il modello di Anthropic per analizzare grandi quantità di contenuti pubblicati sui social network e individuare potenziali dissidenti.
Secondo il rapporto, un ufficio cinese di intelligence che si occupa di affari religiosi è passato da "molte squadre di analisti" a un singolo ufficio che, grazie a un assistente di intelligenza artificiale, produce migliaia di indagini al mese. In Iran, attori legati al regime hanno usato Claude per creare un'estensione malevola di Firefox capace di raccogliere dai social network informazioni sull'identità degli utenti.
Secondo Klein, l'intelligenza artificiale rende la sorveglianza statale soprattutto più economica ed efficiente, più che modificarne gli obiettivi. Singoli dipendenti o consulenti possono ora automatizzare attività che in precedenza richiedevano intere squadre di analisti. "Stanno di fatto automatizzando parti del lavoro all'interno dell'apparato di intelligence", ha detto ad Axios. Bloccare l'accesso a Claude, però, non sempre basta a fermare queste operazioni: alcuni soggetti sono passati a modelli open source e, in Mali, il governo è riuscito ad installare la piattaforma in locale utilizzando altri modelli.
Anthropic ha individuato anche 9 operazioni di influenza provenienti da Paesi come Russia, Turchia e Iran, alcune delle quali legate alle elezioni in Moldavia e Kenya. Media statali russi hanno utilizzato Claude per produrre propaganda fasulla presentata come giornalismo indipendente, diffondendo anche affermazioni inventate sul voto in Moldavia. La maggior parte di questi contenuti, precisa l'azienda, ha ottenuto poco o nessun coinvolgimento autentico prima che le operazioni venissero bloccate.
Gli abusi hanno coinvolto i modelli Haiku, Sonnet e Opus. Nessuno ha riguardato i più potenti Fable e Mythos, con l'eccezione di un caso di distillazione illecita, ovvero l'impiego delle risposte di Claude per addestrare un modello concorrente. Mythos sarebbe così efficace nell'individuare vulnerabilità nei software che Anthropic ne ha limitato l'accesso a partner fidati, in gran parte americani. L'azienda afferma di aver bloccato tutte le operazioni descritte, rafforzato le proprie difese e segnalato i casi a governi e partner del settore.
