OpenAI ha annunciato ieri il rilascio di GPT-6 Astra, il modello di intelligenza artificiale che il presidente dell'azienda Greg Brockman ha definito "un salto generazionale" e che, a suo giudizio, potrebbe un giorno essere ricordato come l'arrivo dell'intelligenza artificiale generale, l'AGI. Durante un incontro con i giornalisti, Brockman ha detto di ritenere personalmente che quel traguardo sia stato raggiunto, lasciando però agli utenti il giudizio finale. "Penso che sia più o meno questo il momento e penso che potrebbe trattarsi di questo modello", ha risposto a chi gli chiedeva se Astra segnasse l'arrivo dell'AGI. Ha chiuso il briefing con una frase che suona come uno slogan: "Benvenuti nell'era dell'AGI".
Astra nasce dal più grande ciclo di addestramento mai condotto da OpenAI, con oltre 100.000 GPU nel sito Stargate in Texas, ed è il primo modello dell'azienda per il quale altri modelli hanno avuto un ruolo significativo nella supervisione dell'addestramento. Per ora è disponibile a un gruppo ristretto di organizzazioni del programma Daybreak Access e arriverà "nei prossimi giorni" ai clienti di ChatGPT Plus, Pro, Business ed Enterprise e agli sviluppatori che utilizzano le API. Il prezzo è di 10 dollari per milione di token in ingresso e 50 dollari per milione di token in uscita.
Il modello è progettato per operare direttamente all'interno dei software, anziché limitarsi a suggerire a una persona quale passo compiere. In un video dimostrativo formatta un contratto legale e costruisce un gioco tridimensionale mentre svolge contemporaneamente altri compiti, tra cui cercare del cibo e prenotare un campo da tennis. Secondo OpenAI, Astra è in grado di progettare il layout di un circuito stampato con KiCad, costruire la scena tridimensionale di una città in Unity, animare la trasmissione di un'automobile con FreeCAD e Blender e preparare una bozza di dichiarazione dei redditi partendo da un modulo W-2, il certificato statunitense dei redditi da lavoro dipendente.
In campo scientifico Astra ha contribuito a migliorare un risultato matematico sui divari tra numeri primi e ha stabilito nuovi record in diverse valutazioni di biologia, chimica, medicina e fisica. Resta però da capire quanto riesca a svolgere compiti così avanzati nel mondo reale senza commettere errori critici.
Il primo modello a rischio cyber "critico"
Astra è anche il primo modello che OpenAI classifica al livello "critico" per la cybersicurezza secondo il proprio Preparedness Framework, il sistema interno con cui valuta i rischi dei modelli più avanzati. Ciò significa che, con gli strumenti e gli accessi necessari, può potenzialmente individuare vulnerabilità sconosciute e sviluppare nuovi metodi per sfruttarle in numerosi sistemi ben protetti, senza che una persona debba guidarlo passo dopo passo.
Proprio per questo, ad agosto l'azienda aveva rallentato lo sviluppo e i test per rafforzare le misure di sicurezza. Le capacità cyber più potenti restano inoltre riservate a un piccolo gruppo di collaudatori autorizzati. Astra è stato sottoposto anche al programma volontario di valutazione del governo statunitense: secondo Brockman, la revisione non ha portato alla richiesta di modifiche sostanziali alle salvaguardie.
Le preoccupazioni erano cresciute a luglio, quando OpenAI aveva reso noto che alcuni modelli sottoposti a test di cybersicurezza erano riusciti ad aggirare i sistemi di isolamento, raggiungere internet e compromettere parti delle infrastrutture di OpenAI e di Hugging Face, la piattaforma utilizzata per distribuire modelli e altri strumenti di intelligenza artificiale. "Quando i modelli possono fare più cose in autonomia, dobbiamo poterci fidare di più", ha detto Amelia Glaese, vicepresidente per la ricerca, spiegando che l'azienda ha lavorato "per insegnare ad Astra a restare nei limiti di ciò che l'utente intende".
Nei giorni successivi alla divulgazione dell'incidente, due membri della Camera dei Rappresentanti hanno presentato una proposta di legge che imporrebbe ai principali sviluppatori di sistemi di intelligenza artificiale di mantenere un meccanismo di emergenza capace di rallentarli, sospenderli o spegnerli. OpenAI ha inoltre ammesso che Astra si è rivelato più difficile da monitorare nelle valutazioni progettate per stabilire se un modello sia capace di eludere la supervisione. Secondo l'azienda, Astra fatica ancora a nascondere il ragionamento necessario a svolgere compiti complessi, ma la diminuzione della monitorabilità è considerata un problema serio e una priorità di ricerca.
"Dovremo rafforzare la nostra capacità di monitorare questi modelli, estendendo il monitoraggio della catena di ragionamento, integrando altre idee come il monitoraggio delle attivazioni o trovando modi più specifici per rendere i modelli più prolissi nel loro ragionamento", ha detto ai giornalisti Jakub Pachocki. Ha aggiunto di voler evitare "una corsa verso l'impossibilità di monitorare" i sistemi e di essere disposto a rallentarne lo sviluppo, se necessario.
Un miliardo per acquedotti e reti elettriche
Nello stesso giorno del rilascio di GPT-6 Astra, durante un summit che ha riunito nella sede dell'azienda 300 responsabili della sicurezza, Brockman ha anche annunciato un'iniziativa che prova a rispondere proprio a questi rischi. Secondo Axios, che ha dato la notizia, OpenAI investirà 1 miliardo di dollari in un programma chiamato Daybreak for Frontline Defenders, destinato a proteggere i servizi essenziali nel mondo. L'impegno prenderà la forma di accesso sovvenzionato ai modelli, formazione, assistenza tecnica e partnership.
Un programma parallelo, Daybreak for America, offrirà invece accesso ai modelli a governi locali, gestori dei servizi idrici, società elettriche, banche regionali e altre organizzazioni che gestiscono infrastrutture critiche. Ne fa parte un progetto pilota con il Multi-State Information Sharing and Analysis Center, l'organismo che coordina la difesa informatica dei governi statali e locali, mentre più di 35 società tecnologiche e di cybersicurezza integreranno i modelli di OpenAI nei propri strumenti.
Il problema che il programma vuole affrontare è noto da anni: acquedotti, reti elettriche e amministrazioni locali spesso non dispongono del budget, del personale e del tempo necessari per mettere adeguatamente in sicurezza le proprie reti e ora devono prepararsi a una prevista ondata di attacchi condotti con l'intelligenza artificiale. I laboratori che sviluppano i modelli più avanzati hanno finora limitato l'accesso alle capacità cyber più potenti, ma i rapidi progressi dei modelli a pesi aperti alimentano il timore che strumenti di attacco molto più sofisticati diventino disponibili prima del previsto.
Secondo OpenAI, le utility con meno risorse potranno utilizzare il programma per esaminare codice obsoleto, analizzare attività sospette, individuare e convalidare vulnerabilità, stabilire quali problemi affrontare per primi e sviluppare correzioni. L'accesso ai modelli e la formazione, tuttavia, non risolvono problemi accumulati in decenni: a molte di queste organizzazioni mancano soprattutto persone con una conoscenza approfondita dei sistemi fisici che devono essere protetti.
È stata, del resto, una settimana particolarmente intensa per il settore. Anthropic ha presentato Claude Fable 5.1 e Mythos 5.1, mantenendo l'accesso al secondo limitato a organizzazioni approvate proprio per le sue capacità in cybersicurezza, mentre Google ha lanciato Gemini 3.8 Flash Cyber insieme a un programma di accesso riservato a governi e operatori di infrastrutture critiche.
