Anthropic apre all'ipotesi di rallentare lo sviluppo dell'IA
L'azienda che ha creato Claude avverte che i sistemi di IA si stanno avvicinando alla capacità di migliorarsi da soli. Ma una pausa, affermano, avrebbe senso solo con un sistema globale di verifica.
Anthropic, l'azienda che ha creato il modello di intelligenza artificiale Claude, ha pubblicato un articolo in cui sostiene che sarebbe "un bene per il mondo" poter rallentare, o sospendere temporaneamente, lo sviluppo dei modelli di IA più avanzati. Il testo, cofirmato dal cofondatore Jack Clark e da Marina Favaro, parte da una constatazione: i sistemi di intelligenza artificiale si stanno avvicinando all'auto-miglioramento ricorsivo, cioè alla capacità di progettare e costruire da soli i propri successori, senza intervento umano diretto.
Quel traguardo, precisa Anthropic, non è ancora stato raggiunto e non è inevitabile. Potrebbe però arrivare prima che governi, istituzioni e sistemi di controllo siano pronti a questo. L'azienda ammette di non sapere come sarebbe un mondo in cui l'IA riesce a migliorarsi autonomamente. Sa però che, in uno scenario simile, il rischio di perderne il controllo aumenterebbe in modo significativo.
Il codice scritto da Claude e il salto di produttività
Anthropic cita anche dati interni finora non pubblicati. A maggio 2026 oltre l'80% del codice dell'azienda era scritto da Claude, rispetto a percentuali minime all'inizio del 2025. Ogni ingegnere produce in media otto volte più codice rispetto al 2024, perché oggi dirige e revisiona il lavoro della macchina invece di scriverlo interamente.
Anche la durata dei compiti che i modelli IA riescono a completare da soli sta crescendo rapidamente: secondo Anthropic raddoppia all'incirca ogni quattro mesi. Se questa tendenza dovesse proseguire, nel 2027 i sistemi di IA potrebbero svolgere in autonomia lavori che a una persona richiederebbero settimane.
Il punto centrale dell'appello, però, non riguarda solo la velocità dello sviluppo, ma il modo in cui un eventuale rallentamento potrebbe funzionare. Una pausa unilaterale decisa da una singola azienda, scrive Anthropic, sarebbe tecnicamente possibile già oggi, ma servirebbe a poco: cambierebbe soltanto chi guida la corsa. E se il rallentamento consentisse agli attori meno prudenti di recuperare terreno, il risultato sarebbe un sistema complessivamente meno sicuro.
Il problema della verifica globale
Per funzionare davvero, dunque, una sospensione dovrebbe coinvolgere più laboratori di frontiera, in più Paesi e alle stesse condizioni. Ciascuno dovrebbe poter verificare che gli altri si siano effettivamente fermati. Il problema è che un grande addestramento di IA è molto più facile da nascondere di un sito missilistico, mentre l'incentivo a barare sarebbe enorme: chi continuasse a sviluppare modelli mentre gli altri si fermano potrebbe conquistare un vantaggio decisivo nella corsa all'IA.
L'articolo richiama un precedente storico: il mondo ha già costruito regimi di verifica per tecnologie complesse, come il Trattato INF sui missili a corto e medio raggio. Ma quei sistemi hanno richiesto decenni per creare infrastrutture, procedure e fiducia reciproca. "Non abbiamo tutto quel tempo", si legge nel testo.
Anthropic delinea quindi tre scenari. Nel primo la tendenza si arresta, ipotesi che l'azienda considera improbabile. Nel secondo, ritenuto il più verosimile, lo sviluppo dell'IA diventa in gran parte automatizzato, ma gli esseri umani continuano a decidere la direzione strategica. Nel terzo, i sistemi raggiungono il pieno auto-miglioramento ricorsivo e iniziano a costruire i propri successori: un mondo che la stessa azienda dichiara di non saper prevedere.
L'impegno di Anthropic e la corsa verso la Borsa
Per questo l'Anthropic Institute, che ha firmato il testo, annuncia che lavorerà ai sistemi di verifica necessari a rendere credibile una pausa e organizzerà nei prossimi mesi un confronto con governi, ricercatori, società civile e altre aziende del settore. Anthropic aggiunge anche un impegno preciso: se questi sistemi esistessero, sarebbe pronta a rallentare o sospendere lo sviluppo, a condizione che anche le altre aziende lo facessero in modo verificabile.
L'appello arriva in un momento particolare per l'azienda. Fondata cinque anni fa da un gruppo di ex dipendenti di OpenAI guidati da Dario Amodei, Anthropic ha avuto grande successo nel 2026 con i suoi strumenti di programmazione Claude Code. La sua valutazione ha superato di recente quella della rivale OpenAI, creatrice di ChatGPT, raggiungendo i 965 miliardi di dollari, e il 1° giugno l'azienda ha avviato l'iter per la sua quotazione in Borsa.
