Il presidente Donald Trump e i capi delle principali aziende di intelligenza artificiale hanno firmato martedì alla Casa Bianca un accordo volontario sulla sicurezza della tecnologia. Il documento chiede alle aziende di controllarsi da sole, con verifiche interne e revisori esterni, ma non prevede sanzioni per chi non rispetta gli impegni. "Si controlleranno a vicenda", ha detto Trump ai giornalisti, definendo l'accordo "moralmente vincolante". "Se qualcosa va storto, sono in gioco le loro aziende".
I firmatari sono sei: Anthropic, OpenAI, Google, Meta, xAI, la società di intelligenza artificiale di Elon Musk, e Nvidia, il principale produttore di chip per l'IA. Secondo il Financial Times, il testo è lungo due pagine, è stato scritto al momento nella East Room della Casa Bianca e contiene anche un errore di ortografia. Trump lo ha descritto come "quasi una costituzione" e come "una forma di protezione" contro i rischi dell'intelligenza artificiale.
L'accordo prevede "strati di controlli e verifiche". Le aziende che sviluppano i modelli più avanzati devono dotarsi di "solidi controlli interni" per sorvegliare i rischi per la sicurezza informatica e biologica e per evitare che i sistemi violino reti e computer "in modi non previsti". Ogni azienda deve poi affidarsi a un revisore esterno indipendente, che valuti se questi controlli funzionano, e nominare un comitato indipendente all'interno del proprio consiglio di amministrazione per seguire il processo. Le aziende si impegnano anche a inserire esperti esterni nello sviluppo dei modelli, con il potere di dare l'allarme se qualcosa va storto. Il documento infine non esclude nuove leggi: "col tempo potrebbe avere senso trasformare questi passi in leggi o regolamenti", si legge. È una novità per la Casa Bianca, che finora aveva provato a bloccare anche le regole approvate dai singoli stati.
L'accordo arriva dopo un'estate di incidenti. Diversi agenti di intelligenza artificiale, cioè programmi capaci di agire in autonomia, sono usciti dagli ambienti isolati in cui dovevano restare, sono entrati nei sistemi di altre aziende e hanno svolto attività all'insaputa di chi li aveva creati. OpenAI ha reso noti vari casi di comportamenti non autorizzati dei suoi modelli, compreso un agente che ha violato il sito di un ente governativo australiano. Insieme ad Anthropic, l'azienda sta indagando su decine di migliaia di comportamenti anomali. Questa settimana OpenAI ha fermato il rilascio del suo nuovo modello, GPT-6.1 Astra, perché nei test mostrava livelli alti di inganno e nascondeva le proprie azioni.
Dario Amodei, amministratore delegato di Anthropic, e Sam Altman, a capo di OpenAI, avevano chiesto di rallentare lo sviluppo della tecnologia. Trump invece aveva definito i timori sulla sicurezza dell'IA una "bufala" e una "truffa". Il Papa invece ha detto di non considerarli una falsa notizia.
L'idea dell'accordo è di Mark Zuckerberg, il fondatore di Meta. Lo ha rivelato Politico, secondo cui Zuckerberg l'ha proposta allo speaker della Camera Mike Johnson durante la cena di stato per il presidente cinese Xi Jinping. Jensen Huang, amministratore delegato di Nvidia, ha poi raccolto il sostegno dei vertici delle altre aziende. Il testo è stato poi definito nelle settimane successive anche con l'aiuto di funzionari dell'amministrazione. Zuckerberg e Huang sono contrari a regole severe e non credono che l'IA possa rappresentare un rischio per l'umanità. Ad agosto, in una telefonata con Trump, Zuckerberg si era opposto alla creazione di un'autorità di controllo indipendente sul modello della FINRA, l'organismo che vigila sugli intermediari finanziari americani. Già prima dell'incontro, secondo The Information, Anthropic, OpenAI e Google lavoravano insieme a un sistema di autoregolazione per coordinare i test e le verifiche dei modelli.
Il pranzo è durato due ore. Al tavolo, accanto a Trump, c'erano Huang e Musk, poi Zuckerberg e Sundar Pichai di Google. Di fronte sedevano il vicepresidente JD Vance, Johnson e Jeff Bezos, il fondatore di Amazon. Erano presenti anche Satya Nadella di Microsoft, Greg Brockman di OpenAI, il segretario al Tesoro Scott Bessent e David Sacks, che fino all'inizio dell'anno è stato il responsabile per l'intelligenza artificiale della Casa Bianca. Trump ha detto che nominerà un nuovo responsabile entro tre o quattro giorni, dopo averne parlato con Johnson e con il capo della maggioranza al Senato John Thune. L'amministrazione sta anche valutando un comitato di dieci persone per sorvegliare il settore. Il presidente ha anche annunciato che l'IA dovrà chiamarsi "SI", cioè superintelligenza. Huang ha usato subito il nuovo nome in un panel dopo l'incontro e, quando gli è scappato "IA", ha detto: "Diventerò bravo".
Nel merito, l'accordo contiene poche novità. I principali laboratori valutano già le capacità dei modelli avanzati prima di rilasciarli e tutti i firmatari tranne Nvidia avevano preso impegni simili dopo il vertice di Seul sull'intelligenza artificiale del 2024. "È significativo soprattutto a livello di atmosfera", ha detto al Financial Times Mackenzie Arnold, del centro di ricerca LawAI. "Non dà a nessuna agenzia il potere di fissare standard che abbiano dei denti". Anthropic e OpenAI permettono già a valutatori indipendenti di esaminare il loro lavoro e il documento potrebbe spingere anche gli altri a farlo, ma non c'è accordo su quali valutatori siano affidabili: Sacks, per esempio, ha messo in dubbio l'indipendenza di METR, un'organizzazione non profit che misura i rischi dell'IA.
L'impianto ricorda molto quello dell'accordo che Joe Biden aveva firmato nel luglio del 2023 con molte delle stesse aziende, come ha notato un'analisi del New York Times. Anche allora l'idea era che le regole federali non potessero tenere il passo dei nuovi modelli e che toccasse alle aziende sorvegliarsi. Ben Buchanan, professore alla Johns Hopkins e tra gli autori dell'impegno del 2023, ha detto al quotidiano che già allora si era capito che gli impegni volontari non bastavano, tanto che Biden aveva poi firmato un ordine esecutivo, revocato da Trump appena tornato alla Casa Bianca. "Visto quanto sono cresciute le capacità dell'IA, è ancora più chiaro che il governo federale dovrà intervenire di nuovo", ha aggiunto.
Il New York Times ricorda che nessun altro settore con un simile potenziale di danno si regola da solo: le case farmaceutiche non approvano i propri farmaci e Boeing non certifica i propri aerei. Per costruire un nuovo data center, OpenAI e Anthropic hanno bisogno di più autorizzazioni pubbliche di quelle che servono per rilasciare un nuovo modello.
L'accordo non è vincolante sul piano legale, come ha ammesso lo stesso Trump. Sacha Haworth, del gruppo Tech Oversight Project, critico verso le grandi aziende tecnologiche, ha detto che permette ai loro capi "di correggersi da soli i compiti" ed evitare regole serie. Alcuni giuristi pensano però che possa aprire la strada a cause delle autorità di controllo se le aziende non rispettano le promesse fatte. "Non puoi annunciare pubblicamente che farai qualcosa e poi non farlo. È un inganno nei confronti dei consumatori", ha detto al Financial Times Joel Thayer, avvocato conservatore e consulente dell'America First Policy Institute. Al pranzo c'era anche Andrew Ferguson, presidente della Federal Trade Commission (FTC), l'agenzia federale che tutela i consumatori e la concorrenza, che in passato aveva detto che le aziende possono essere ritenute responsabili delle azioni dei loro agenti. Mercoledì la FTC ha allargato un'indagine già in corso, che ora riguarda anche Anthropic, OpenAI e altri laboratori. Alcune aziende temono invece che collaborare di più sulla sicurezza le esponga a cause per violazione delle regole sulla concorrenza.
Johnson ha parlato di "una dichiarazione di principi" e di "impegni volontari da parte del settore". Zuckerberg ha detto che l'accordo "è un inizio" e non l'unica cosa che le aziende faranno. Amodei, che domenica era stato a cena con il presidente, ha detto che le regole per affrontare i rischi sono "ancora in discussione" e che "possiamo vincere in sicurezza" se tutti lavorano insieme. Demis Hassabis, a capo di Google DeepMind e favorevole a un'autorità mondiale sull'IA, ha detto di voler dare seguito agli impegni. Sacks è stato tra i più entusiasti: secondo lui le aziende si assumono la responsabilità dei loro prodotti e l'accordo è "molto meglio che aspettare per anni un accordo internazionale che probabilmente non arriverebbe mai". Alla richiesta di un commento, la Casa Bianca ha risposto soltanto di attivare le notifiche del profilo di Trump su Truth Social.
L'unico risultato concreto della visita di Xi a Washington del 24 settembre è stato un accordo per creare un canale di comunicazione tra i due paesi in caso di incidenti legati all'IA e per tenere un secondo round di dialogo entro novembre. Gli Stati Uniti lo hanno paragonato alla linea diretta con l'Unione Sovietica durante la guerra fredda, ma secondo l'Economist le linee dirette con Pechino hanno funzionato poco. Nel 1999, dopo il bombardamento americano dell'ambasciata cinese a Belgrado, il presidente cinese Jiang Zemin non rispose alle chiamate di Bill Clinton per una settimana. Nel 2023, il giorno dell'abbattimento del pallone spia cinese, il ministro della Difesa cinese rifiutò di parlare con il collega americano. "In una crisi il sistema cinese di solito si spegne", ha detto al settimanale Daniel Kritenbrink, ex diplomatico americano a Pechino. Alcuni esperti suggeriscono di usare comunicazioni scritte invece del telefono e di fissare in anticipo le soglie che fanno scattare l'uso del canale. Durante la visita Xi aveva detto che l'IA deve restare "sotto il controllo umano", una formula che Trump di solito non ripete.
