Mark Zuckerberg ha attaccato le aziende rivali che sviluppano l'intelligenza artificiale in modo chiuso e strettamente controllato. Concentrare il potere di questa tecnologia in poche istituzioni, sostiene, sarebbe un pericolo per la società. L'amministratore delegato di Meta lo ha scritto in un articolo di opinione pubblicato martedì sul Wall Street Journal e lo ha ripetuto in due interviste. Non ha mai citato le concorrenti per nome, ma il riferimento ad Anthropic e OpenAI, le due aziende che producono i modelli di intelligenza artificiale oggi considerati i migliori, è evidente.
Nell'articolo Zuckerberg scrive che lo sviluppo della "superintelligenza", il termine con cui Meta indica un'intelligenza artificiale superiore alle capacità umane, "sarà il progresso tecnologico più profondo che vedremo nel corso delle nostre vite". La domanda decisiva della nostra epoca, aggiunge, non è se questa tecnologia esisterà, ma chi vi avrà accesso. La sua proposta è dare più potere ai singoli individui e usare la superintelligenza soprattutto per inventare, più che per automatizzare, con l'equilibrio dei poteri come fondamento della sicurezza.
Per Zuckerberg l'idea che l'intelligenza artificiale sia così pericolosa da rendere necessaria "un'estrema concentrazione di potere" è essa stessa pericolosa. Se solo poche istituzioni avranno la superintelligenza, scrive, eserciteranno un'influenza determinante su economia, scienza e politica, limitando la libertà delle persone di scegliere il proprio futuro.
L'alternativa che propone è una "superintelligenza personale" accessibile a tutti, cioè un'intelligenza artificiale molto capace combinata con il contesto personale di chi la usa. La spiega con un esperimento mentale. Se una sola persona avesse un avvocato superintelligente, avrebbe un vantaggio ingiusto in tribunale anche quando ha torto nel merito. Se tutti ne avessero uno, la giustizia sarebbe amministrata in modo più equo, perché le persone dotate di strumenti potenti si controllano e si bilanciano a vicenda.
Zuckerberg riconosce che alcuni rischi meritano attenzione. Per la sicurezza informatica, scrive, la storia del software aperto dimostra che dare a tutti pieno accesso ai sistemi è la protezione migliore nel lungo periodo, mentre per i rischi biologici servirà più coordinamento tra i governi. Se la superintelligenza sarà distribuita su larga scala, conclude, i posti di lavoro aumenteranno e l'economia diventerà più imprenditoriale, perché avviare un'impresa senza grandi capitali sarà più facile.
Nell'intervista al New York Times Zuckerberg ha detto che sviluppare la tecnologia in modo strettamente controllato, come fanno Anthropic e OpenAI, equivarrebbe ad "abbandonare i nostri valori" e frenerebbe l'innovazione. "Gran parte del discorso di molti degli altri laboratori che stanno sviluppando questa tecnologia è completamente pieno di catastrofismo", ha detto. "Serve una voce, o più voci, che portino realismo in questo dibattito".
Si è detto scettico anche sulla possibilità di costruire un'unica intelligenza artificiale resa benevola verso l'umanità attraverso una forma idealizzata di "allineamento", il lavoro con cui i sistemi vengono programmati per non danneggiare gli esseri umani. "Penso che sia letteralmente impossibile avere un'unica superintelligenza benevola che sia allineata con tutti contemporaneamente", ha detto.
In un'intervista al Wall Street Journal ha aggiunto che l'ottimismo sull'impatto dell'intelligenza artificiale "dovrebbe essere empiricamente l'ipotesi di partenza su come andranno le cose". Ha citato i precedenti delle grandi trasformazioni tecnologiche e i dati recenti sull'occupazione. "Finora penso che tutto il lavoro attorno all'intelligenza artificiale abbia creato al netto molti posti di lavoro, perché c'è tutta questa infrastruttura che deve essere costruita", ha detto. Nella vita privata usa la tecnologia per cercare le ricette dei dolci da preparare con la figlia di 3 anni e ha installato telecamere nella sua palestra, così che il sistema lo osservi mentre si allena e gli dia consigli.
Lo scontro sul modo di sviluppare l'intelligenza artificiale ha diviso la Silicon Valley. Dario Amodei e Sam Altman, gli amministratori delegati di Anthropic e OpenAI, sostengono che alcuni dei modelli più avanzati siano troppo pericolosi per essere condivisi e sviluppati senza controlli rigidi. Microsoft, Nvidia, Google e Meta ritengono invece che molti modelli debbano essere aperti (open source), cioè scaricabili e modificabili liberamente da chiunque, perché la tecnologia possa avanzare e far nascere nuove imprese. Pochi giorni fa Elon Musk aveva stimato tra il 10 e il 20% il rischio che l'intelligenza artificiale rappresenta per l'umanità, pur prevedendo che entro cinque anni supererà quella di tutti gli esseri umani messi insieme.
La disputa si è accesa a luglio, quando i progressi dei modelli aperti sviluppati in Cina sono sembrati erodere il vantaggio delle aziende americane. Anthropic e OpenAI hanno fatto pressione sulle autorità di Washington sollevando preoccupazioni proprio su quei modelli. Venerdì Jensen Huang, amministratore delegato di Nvidia, l'azienda che produce i chip con cui si addestrano i sistemi di intelligenza artificiale, ha pubblicato una lettera in difesa dello sviluppo aperto, attorno alla quale si è raccolta parte del settore. In settimana ha annunciato anche una coalizione con giganti come SpaceX e IBM per creare strumenti aperti di sicurezza informatica. Diversi dirigenti, tra cui Huang e Altman, sono attesi a Washington in questi giorni per esporre le loro ragioni all'amministrazione del presidente Donald Trump, che sta valutando come regolare la materia.
L'amministrazione sta intanto attuando un ordine esecutivo che introduce un periodo di revisione volontaria di 30 giorni per i nuovi modelli. Zuckerberg ha chiesto verifiche il più possibile rapide. Dire di voler esaminare i modelli per 30 o 60 giorni "può non sembrare molto", ha detto, "ma il settore si muove così in fretta che è in realtà una quantità di tempo piuttosto significativa". Secondo il Wall Street Journal, una regola valida per tutti sulla velocità di sviluppo rischierebbe di consolidare il vantaggio di Anthropic e OpenAI, visto che i modelli di Meta sono rimasti indietro rispetto ai loro. Il titolo dell'azienda ha perso in borsa circa il 17% nell'ultimo anno.
Alcuni funzionari hanno discusso anche della possibilità di vietare alle aziende americane l'uso dei modelli aperti sviluppati in Cina, sulla base delle accuse secondo cui le aziende cinesi avrebbero copiato la tecnologia americana. Meta ha firmato di recente una lettera che chiede al governo di non vietare i modelli aperti. Zuckerberg dubita che mettere al bando quelli di altri Paesi sarà produttivo e ritiene che il governo dovrebbe piuttosto accelerare l'industria nazionale, eliminando i colli di bottiglia che rallenterebbero innovazioni come i nuovi farmaci.
Amodei aveva difeso la linea opposta lunedì in un post sul blog. Anthropic, ha scritto, si concentra su "tenere i chip potenti fuori da mani autoritarie, fermare la distillazione su scala industriale e imporre test di sicurezza a tutti i modelli sufficientemente capaci, aperti e chiusi". La distillazione è la pratica con cui un modello viene addestrato sfruttando le risposte di un altro. OpenAI ha detto in passato di appoggiare il software aperto e di lavorare con la Casa Bianca a modi sicuri di sostenere lo sviluppo della tecnologia.
Martedì, lo stesso giorno delle uscite di Zuckerberg, alcuni dei principali ricercatori di Anthropic, OpenAI, Google e della stessa Meta hanno firmato una lettera aperta intitolata "Pacing the Frontier". Il documento chiede uno sforzo internazionale per sviluppare strumenti tecnici e di governance con cui rallentare lo sviluppo dell'intelligenza artificiale per ragioni di sicurezza.
Per anni Meta ha difeso i modelli aperti e ha distribuito gratuitamente i propri, ma la primavera scorsa, dopo essere rimasta indietro nella corsa, Zuckerberg ha cambiato strategia: ha investito 14,3 miliardi di dollari nella start-up ScaleAI e ne ha assunto il fondatore Alexandr Wang per guidare la divisione ribattezzata Meta Superintelligence Labs, che ha iniziato a lavorare anche a un modello chiuso. A luglio l'azienda ha cominciato per la prima volta a vendere l'accesso al suo modello più recente, Muse Spark, pur continuando a sviluppare anche modelli aperti.
Quest'anno Meta prevede investimenti fino a 145 miliardi di dollari, in gran parte per comprare chip e costruire centri dati. A maggio ha licenziato 8.000 dipendenti attribuendo i tagli proprio ai costi dell'intelligenza artificiale.
"Credo che la traiettoria generale del settore sia andata verso una maggiore apertura e verso il mettere il potere della tecnologia nelle mani di più persone, non di meno", ha detto Zuckerberg al New York Times.
