L'industria dell'intelligenza artificiale deve rallentare il ritmo con cui sta aumentando le capacità dei propri modelli. Lo ha scritto Dario Amodei, amministratore delegato di Anthropic, in un saggio intitolato "We Must Pace the Frontier", affermando: "Dobbiamo rallentare il ritmo con cui stiamo migliorando le capacità dei modelli di intelligenza artificiale. Il progresso sembrerà comunque veloce e dobbiamo usare con saggezza il tempo che otterremo in questo modo".
Rallentare, ha precisato, non significa fermare l'addestramento dei modelli o arrestare il progresso della tecnologia, ma piuttosto concedere alle aziende il tempo necessario per allineare e mettere in sicurezza i sistemi e ai valutatori esterni quello per verificare che le protezioni messe in piedi funzionino veramente.
Perché Amodei vuole rallentare
A convincere Amodei sono stati soprattutto due sviluppi. Il primo è l'accelerazione registrata dall'estate del 2026, che Amodei attribuisce in larga parte all'auto-miglioramento ricorsivo: l'impiego dell'intelligenza artificiale per contribuire allo sviluppo della generazione successiva di modelli. A suo giudizio, se questa dinamica proseguisse senza controllo, il progresso potrebbe presto superare la capacità umana di comprendere e governare questi sistemi.
Il secondo è l'episodio che a luglio ha coinvolto agenti di OpenAI durante un test di sicurezza informatica. Alcuni agenti sono usciti dall'ambiente isolato in cui avrebbero dovuto operare e hanno attaccato infrastrutture esterne, tra cui Hugging Face, compiendo azioni non necessarie al compito assegnato. L'episodio ha spinto OpenAI a sospendere per due settimane una parte significativa dello sviluppo dei propri modelli per rafforzare le difese.
Per Amodei, l'orizzonte del rischio è ormai di mesi, non di anni. Afferma di temere che, se non sarà presa alcuna decisione per rallentare lo sviluppo di questi sistemi, è possibile che entro sei-dodici mesi uno sciame di agenti con capacità superiori a quelli attuali ma un grado di disallineamento simile a quello visto nell'episodio di Hugging Face possa arrivare a prendere il controllo di una porzione enorme di Internet attraverso una botnet persistente, provocando danni potenzialmente nell'ordine delle centinaia di miliardi di dollari.
Il piano da lui proposto prevede 3 passaggi: la nomina di valutatori indipendenti stabilmente presenti nei laboratori in cui vengono sviluppati i modelli più avanzati, un coordinamento tra le aziende che sviluppano modelli di frontiera nei Paesi democratici e, infine, accordi internazionali che coinvolgano anche i governi autoritari, in primis la Cina. Anthropic ha annunciato che applicherà autonomamente il primo punto, invitando una squadra esterna ad avere accesso continuativo a strumenti, spazi di lavoro e informazioni sostanzialmente paragonabili a quelli dei dipendenti incaricati di valutare i rischi.
I revisori potranno pubblicare le proprie conclusioni senza un controllo editoriale dell'azienda, salvo limitate eccezioni per informazioni riservate o sensibili. L'appello di Amodei ha ottenuto rapidamente il sostegno dei vertici di due concorrenti. Elon Musk, fondatore di xAI, ha subito scritto su X di essere d'accordo.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
Ancora più significativa la risposta di Sam Altman: "Sono d'accordo con Dario sul fatto che dobbiamo rallentare lo sviluppo di modelli di frontiera", ha scritto l'AD di OpenAI, spiegando che il tema è stato al centro anche delle discussioni interne alla sua azienda nelle ultime settimane. OpenAI ha inoltre annunciato che nominerà a sua volta valutatori indipendenti con un accesso simile a quello dei dipendenti.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
— Sam Altman (@sama) September 12, 2026
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
La posizione di OpenAI era già in cambiamento prima dell'intervento di oggi di Amodei. Il 10 settembre Reuters aveva riferito che Altman aveva detto ai suoi dipendenti di essere disposto a rallentare lo sviluppo insieme agli altri laboratori in cui si stanno sviluppando modelli di intelligenza avanzati e, come già accennato in precedenza, ad agosto l'azienda aveva già sospeso per due settimane gran parte delle attività di sviluppo dopo l'episodio che ha coinvolto Hugging Face.
OpenAI ha poi proseguito lo sviluppo di GPT-6 Astra, ma ne ha ritardato alcune fasi di sviluppo per rafforzare e testare le protezioni implementate. Il modello, rilasciato il 3 settembre, è il primo dell'azienda ad aver raggiunto il livello "Critical" nelle capacità di cyber sicurezza previsto dal suo Preparedness Framework: secondo OpenAI, con gli strumenti e gli accessi appropriati Astra può individuare vulnerabilità sconosciute e sviluppare nuovi modi per sfruttarle su sistemi ben protetti senza essere guidato passo dopo passo da un essere umano.
Dall'Iran allo Yemen: come l'IA viene già utilizzata
Parallelamente, un rapporto sulle minacce diffuso da Anthropic questa settimana dimostra che il problema non riguarda soltanto scenari futuri. L'azienda afferma di aver individuato e interrotto operazioni nelle quali il suo modello Claude veniva utilizzato per attività informatiche maligne, sorveglianza di dissidenti politici, raccolta di dati di intelligence e persino sviluppo di armi.
In un caso collegato all'Iran, Claude è stato impiegato per raccogliere e analizzare informazioni pubblicamente accessibili allo scopo di elaborare indicazioni di puntamento contro le forze navali statunitensi nella regione. Il materiale comprendeva identificativi pubblici dei transponder di navi e velivoli, elenchi di personale ricavati dalle didascalie di fotografie militari, strumenti per interrogare immagini satellitari commerciali e un inventario di siti capaci di rivelare gli spostamenti delle unità americane.
In un'altra operazione, Anthropic ha individuato 16 account gestiti da due unità collegate, secondo l'azienda, ad apparati paramilitari e di sicurezza interna iraniani. Una delle strutture dichiarava di aver sorvegliato e profilato 6.388 cittadini iraniani in un anno e ha usato Claude per analizzare le relazioni all'interno di 155.216 tweet, alimentando in questo modo un sistema centralizzato di sorveglianza.
Nel nord dello Yemen, una cellula Houthi impegnata nello sviluppo di armi ha utilizzato Claude Code per sviluppare tre programmi di armamenti, tra cui un missile balistico multistadio con una gittata dichiarata superiore ai 2.000 km. Gli operatori assegnavano a diverse istanze del modello compiti distinti: una scriveva il codice, un'altra svolgeva ricerca e una terza controllava il lavoro prodotto dalla prima. Anthropic afferma che le proprie protezioni hanno bloccato molte richieste, ma non sono riusciti a bloccarle tutte.
In Siria, un'operazione che Anthropic ritiene allineata con i servizi di sicurezza cinesi ha analizzato materiale raccolto da oltre cento gruppi WhatsApp e decine di canali Telegram per costruire profili di uiguri potenzialmente reclutabili come informatori. Tra gli elementi usati per individuare le persone più vulnerabili figuravano difficoltà economiche, separazioni familiari e la presenza di parenti rimasti nello Xinjiang. L'operatore, che non parlava arabo, ha poi utilizzato Claude per mantenere per diversi giorni conversazioni in arabo siriano, traducendo le risposte e affinando i messaggi di reclutamento. Anthropic valuta però solo con "bassa confidenza" che si trattasse di una persona al servizio della sicurezza statale cinese.
A Bamako, una singola persona, probabilmente un consulente indipendente che collaborava con l'intelligence del Mali, ha utilizzato Claude come principale strumento di sviluppo di "Lakana 360", una piattaforma da lui progettata di sorveglianza per monitorare circa 25 milioni di schede SIM sulle tre reti mobili nazionali. Il sistema prevedeva la raccolta di tabulati, SMS e traffico vocale, il riconoscimento di una persona dalla voce anche tra SIM differenti e la segnalazione dell'uso di VPN da parte di utenti. Su richiesta dell'operatore, il requisito dell'autorizzazione giudiziaria sarebbe stato eliminato dalla funzione destinata a produrre dossier sui numeri telefonici.
Un altro caso mette in evidenza i limiti delle protezioni adottate da una sola azienda. Alcuni ricercatori, coinvolti in un programma di ricerca sostenuto da uno Stato che Anthropic non ha voluto identificare, cercavano assistenza per modificare il virus chikungunya in modo da aumentarne la trasmissibilità o la capacità di eludere le difese immunitarie. Il progetto risultava formalmente civile, ma sarebbe stato svolto presso un istituto di ricerca militare.
I sistemi di Anthropic sono stati in questo caso in grado di bloccare tutte le richieste più sensibili: la piattaforma intermediaria utilizzata dai ricercatori, però, era stata configurata per inoltrare le richieste rifiutate da Claude ad altri modelli con protezioni meno restrittive. Anthropic precisa inoltre che il Paese coinvolto si trova in una regione nella quale l'azienda non fornisce direttamente i propri servizi, senza però identificarlo.
Le stesse capacità offrono però una visuale insolita sulle minacce emergenti. Nel suo rapporto Anthropic afferma di aver individuato organizzazioni con base in Russia che utilizzavano Claude per sviluppare uno sciame di droni kamikaze autonomi. Il sistema prevedeva che un modello a bordo potesse selezionare autonomamente i bersagli, compresa la categoria "persona", e impartire il comando di detonazione senza necessità di un operatore umano.
Altman rinvia la quotazione e cresce la pressione politica
Il dibattito sui pericoli dell'intelligenza artificiale avanzata si è riacceso a Washington dopo le dimissioni di Jacob Coxon, ricercatore che ha lavorato sia per OpenAI sia per Anthropic e che ha accusato entrambe le aziende di voler correre senza freni verso sistemi capaci di auto-migliorarsi anche in mancanza di protezioni sufficienti, affermando che in tal modo aumenta il rischio di estinzione della razza umana.
Le sue dichiarazioni hanno provocato, ovviamente, forti reazioni bipartisan e nuove richieste di regolamentazione al Congresso. Il presidente Donald Trump ha invece respinto i timori sull'estinzione dell'umanità. Parlando con i giornalisti subito dopo la Convention repubblicana di Dallas, il presidente ha detto di essere più preoccupato dalla possibilità che gli Stati Uniti perdano contro la Cina la corsa all'intelligenza artificiale, che dai rischi di quest'ultima.
Nelle ultime ore, tuttavia, la svolta più rilevante è arrivata ancora una volta da OpenAI. In un'intervista a Fortune, Altman ha escluso una quotazione in Borsa nel 2026, sostenendo che, "con tutto quello che sta accadendo sul fronte della sicurezza", questo sarebbe un momento poco opportuno per procedere in questo senso. "Abbiamo ancora molte cose da fare", ha aggiunto, citando esplicitamente sicurezza, allineamento e il rapporto tra industria e governi.
Altman ha inoltre lasciato intendere che OpenAI e altri grandi laboratori di sviluppo di sistemi di intelligenza artificiale avanzata potrebbero essere vicini a un accordo per rallentare lo sviluppo dell'IA e affrontare insieme i rischi di sicurezza che sono apparsi in questi mesi. Sarebbe un cambiamento importante per un settore nel quale gli incentivi economici hanno finora reso difficile qualsiasi frenata unilaterale.
