Come ChatGPT è stato usato per cancellare borse di studio sull'Olocausto e le scienze umane

Due giovani collaboratori del DOGE, il dipartimento per l'efficienza governamentale voluto da Elon Musk, hanno usato ChatGPT per decidere quali borse di studio federali cancellare nel campo delle scienze umane. Il risultato: 1.477 progetti eliminati per un valore di oltre 100 milioni di dollari, pari a quasi metà del budget annuale della National Endowment for the Humanities (NEH), l'agenzia federale che dal 1965 finanzia ricerca, archivi, documentari e pubblicazioni umanistiche negli Stati Uniti.

La vicenda è stata ricostruita in dettaglio dal New York Times il 7 marzo, sulla base di documenti depositati in due cause legali intentate contro l'agenzia e il DOGE da un gruppo di organizzazioni accademiche tra cui l'American Council of Learned Societies, l'American Historical Association e l'Authors Guild. I ricorrenti chiedono il ripristino dei finanziamenti e accusano i collaboratori del DOGE di aver violato il Primo Emendamento sulla libertà di espressione e la clausola di pari protezione della Costituzione.

Il metodo usato dai due collaboratori, Justin Fox e Nate Cavanaugh, era rudimentale. Recuperavano brevi descrizioni dei progetti finanziati e le sottoponevano al chatbot di OpenAI con una domanda semplice: "Quanto segue ha qualche legame con la DEI? Rispondi in modo fattuale in meno di 120 caratteri. Inizia con 'sì' o 'no'". La sigla DEI sta per diversity, equity and inclusion, la politica di diversità, equità e inclusione che il presidente Trump ha dichiarato di voler eliminare dalle istituzioni federali. ChatGPT rispose "sì" per 1.057 progetti. In due settimane Fox e Cavanaugh ne aggiunsero centinaia, classificandoli come legati alla DEI o semplicemente come "spreco". Alla fine, dei finanziamenti approvati sotto l'amministrazione Biden ne furono salvati soltanto 42.

I risultati del chatbot erano a volte assurdi. Un documentario sul massacro di Colfax del 1873, il più grave atto di violenza contro i neri dopo la guerra civile americana, fu etichettato come DEI. Lo stesso accadde a un progetto sulla digitalizzazione di giornali afroamericani, a un lavoro in 40 volumi sulla storia della musica americana e persino alla catalogazione delle carte di Thomas Gage, un generale britannico della Rivoluzione americana, giudicata colpevole di "promuovere inclusività e diversità nella ricerca storica".

Particolarmente controversa è stata la cancellazione di progetti legati all'Olocausto e alla cultura ebraica. Un documentario sul lavoro forzato delle donne ebree durante la Shoah fu eliminato perché, secondo ChatGPT, si concentrava sul genere e rischiava di "amplificare voci emarginate". Fox, durante una deposizione giudiziaria, ha confermato la classificazione. Il progetto, ha dichiarato secondo i documenti processuali, era "specificamente focalizzato sulla cultura ebraica e sull'amplificazione delle voci emarginate delle donne in quella cultura. Per questa ragione è intrinsecamente legato alla DEI". Allo stesso modo fu cancellato un progetto di traduzione intitolato "All'ombra dell'Olocausto: racconti di scrittori ebrei dell'Unione Sovietica", un'antologia critica e annotata di opere in yiddish e in russo scritte dopo la Shoah. Anche un finanziamento al National Catholic Center for Holocaust Education della Seton Hill University fu tagliato.

Fox ha ammesso in deposizione di non aver fornito al modello di intelligenza artificiale alcuna definizione di DEI e di non aver verificato se l'algoritmo discriminasse sulla base dell'etnia o del genere. Per le sue ricerche aveva compilato una lista di parole chiave che includeva termini come "gay", "BIPOC" (neri, indigeni, persone di colore), "tribale", "genere", "uguaglianza", "immigrazione" e "melting pot". Ma le parole "bianco", "eterosessuale" e "caucasico" non comparivano nella lista. Fox aveva anche preparato un elenco dei finanziamenti che definiva "più folli" e "altri cattivi", che intendeva pubblicare sull'account del DOGE sulla piattaforma X. La maggior parte dei progetti giudicati "più folli" riguardava temi LGBTQ.

Michael McDonald, presidente ad interim del NEH dopo la rimozione di Shelly Lowe, una nativa americana nominata da Biden e licenziata dal presidente Trump, ha dichiarato in deposizione di non sapere che il DOGE avesse usato ChatGPT e di non concordare con la classificazione dei progetti sull'Olocausto come DEI. Ma ha anche rivendicato la responsabilità delle cancellazioni. Le lettere di revoca dei finanziamenti, inviate dal 2 aprile senza alcuna spiegazione e senza possibilità di appello, portavano la sua firma. In un'email a Fox, McDonald aveva espresso riserve su alcuni "progetti importanti" la cui cancellazione "non avrebbe fatto fare bella figura a nessuno di noi", pur riconoscendo che la decisione finale spettava al DOGE.

I documenti processuali rivelano anche le pressioni esercitate sul NEH. Fox scrisse a McDonald il 31 marzo: "Riceviamo pressioni dall'alto su questa questione e preferiremmo che lei restasse dalla nostra parte, ma ci faccia sapere se non è più interessato". Fox e Cavanaugh non avevano alcuna competenza nelle scienze umane, nell'amministrazione di sovvenzioni o nel servizio pubblico, come hanno ammesso nelle deposizioni. Cavanaugh ha dichiarato di credere nella missione del DOGE di ridimensionare "piccole agenzie inutili".

I pochi progetti salvati riguardano principalmente i Padri fondatori e la Rivoluzione americana, in vista del 250esimo anniversario della Dichiarazione di indipendenza che sarà celebrato il 4 luglio 2026. Tra questi, lavori sul compositore Giuseppe Verdi, su Mark Twain e su Albert Einstein. Uno scambio di messaggi tra McDonald e Adam Wolfson, vicepresidente per i programmi del NEH, rivela la visione dei due dirigenti: quando McDonald gli inviò un articolo critico sui tagli, Wolfson rispose che "la versione progressista delle scienze umane" aveva già distrutto la disciplina, e che ora "si chiama wokeness e intersezionalità". McDonald rispose con un emoji del pollice in su.

Il NEH ha nel frattempo annunciato 75 milioni di dollari in nuove borse, di cui oltre 40 milioni destinati a centri di pensiero conservatori e istituti di studi classici vicini ad alcuni campus universitari, molti dei quali selezionati con invito diretto anziché attraverso i tradizionali bandi competitivi. Tra questi, un finanziamento record di 10,4 milioni di dollari alla Tikvah Fund, un'organizzazione educativa ebraica conservatrice che non aveva mai fatto domanda per un finanziamento federale. Il consiglio accademico esterno del NEH aveva votato contro la raccomandazione di questa borsa, ma McDonald lo ha scavalcato. Poco dopo l'annuncio pubblico, la Casa Bianca ha rimosso la maggior parte dei membri del consiglio senza fornire spiegazioni. La deposizione ha anche rivelato che la moglie di Wolfson aveva lavorato con Tikvah e dirige un programma fondato da un ex membro del consiglio di amministrazione dell'organizzazione.

Dalla sua fondazione nel 1965, il NEH ha finanziato oltre 70.000 progetti per un totale di 6,5 miliardi di dollari, tra cui opere premiate come il documentario "The Civil War" di Ken Burns e il libro "American Prometheus", da cui è stato tratto il film "Oppenheimer" di Christopher Nolan.