Pattie Maes e i suoi colleghi del MIT Media Lab hanno mostrato a 200 persone 24 fotografie di scene comuni: un matrimonio, una strada cittadina, una gara. Dopo una pausa, alcuni partecipanti hanno rivisto le immagini originali, altri versioni modificate con l'intelligenza artificiale: espressioni dei volti diverse, militari aggiunti alla scena, segni del cambiamento climatico prima assenti. Al successivo test di memoria, chi aveva visto le immagini alterate ricordava molti più dettagli falsi ed era anche più sicuro dei propri ricordi.
L'effetto più marcato è emerso proprio tra i partecipanti che avevano guardato video generati a partire dalle fotografie ritoccate: i falsi ricordi erano circa il doppio rispetto al gruppo di controllo. Lo studio è stato presentato nel 2025 alla conferenza internazionale CHI, dedicata all'interazione tra persone e computer. "Penso che tutto questo sia molto pericoloso", ha detto Maes al Washington Post.
Finora il dibattito pubblico si è concentrato soprattutto su quella che alcuni ricercatori chiamano "resa cognitiva": il rischio che, delegando alle macchine una parte crescente del lavoro intellettuale, le persone diventino meno capaci o meno propense a valutarne criticamente le risposte. Diversi studi su eventi politici, crimini e film indicano però un altro pericolo, meno discusso: immagini e conversazioni prodotte dall'IA possono introdurre dettagli falsi nei nostri ricordi, fino a convincerci di aver assistito a fatti mai accaduti.
Le conseguenze vanno ben oltre una fotografia ricordata male. Nei tribunali, per esempio, le testimonianze contribuiscono a ricostruire vicende che spaziano dagli incidenti stradali alle violenze sessuali, nonostante decenni di ricerca abbiano dimostrato quanto facilmente la memoria possa essere distorta.
Una memoria esterna, tra aiuto e dipendenza
Pioniera dell'intelligenza artificiale con oltre 35 anni di carriera, Maes si è sempre interessata soprattutto a strumenti capaci di ampliare le capacità umane. L'idea di un assistente per la memoria le è venuta osservando la madre, che con l'età dimenticava chi fosse passato a trovarla il giorno prima o che cosa le fosse stato detto, e prendeva appunti per ricordare le visite annunciate dalla figlia.
Il suo gruppo ha sviluppato diversi sistemi, tra cui Memoro e MemPal, che utilizzano dispositivi indossabili o portatili per registrare momenti della vita quotidiana e recuperarne in seguito le informazioni: che cosa ha detto qualcuno durante una conversazione, per esempio, o dove sono state lasciate le chiavi. I primi test con persone anziane hanno dato risultati promettenti. Maes spera che strumenti simili possano aiutare chi soffre di Alzheimer o di altre forme di demenza a conservare più a lungo la propria autonomia.
Un altro esperimento dello stesso laboratorio, reso pubblico nel 2025 e ancora sottoposto a revisione scientifica, suggerisce però un possibile costo della delega all'IA. A 54 persone è stato chiesto di scrivere brevi saggi su tracce simili a quelle del SAT, un test utilizzato negli Stati Uniti per l'ammissione all'università, affrontando temi come il significato della felicità. Un gruppo lavorava senza strumenti online, un altro poteva usare Google senza le risposte generate dall'IA e un terzo utilizzava ChatGPT.
Durante la scrittura, elettrodi applicati sul cuoio capelluto registravano l'attività elettrica cerebrale. Chi scriveva senza aiuti mostrava i collegamenti funzionali più intensi e diffusi tra diverse aree del cervello. Viceversa chi usava Google si collocava in una posizione intermedia, mentre tra gli utenti di ChatGPT i collegamenti risultavano più deboli. Questi ultimi, inoltre, poco dopo faticavano maggiormente a riportare frasi del testo appena scritto. Ciò avviene in quanto la formazione di un ricordo richiede attenzione, impegno e capacità di collegare le informazioni: proprio una parte del lavoro che l'IA generativa permette di risparmiare.
Gideon Nave, professore associato alla Wharton School dell'Università della Pennsylvania, teme meno lo scenario cinematografico di una superintelligenza che prende il controllo dell'umanità che la possibilità di smettere di esercitare le capacità affidate alle macchine. "È più probabile, invece, che vedremo un deterioramento delle capacità umane, anziché l'IA prendere il sopravvento", ha detto al Washington Post, aggiungendo di temere un mondo in cui "pensare diventi facoltativo".
Il suo collega Steven Shaw cita invece uno studio pubblicato nel 2025 su The Lancet Gastroenterology & Hepatology. Dopo l'introduzione dell'IA nella loro attività abituale, 19 medici esperti registravano risultati peggiori nelle colonscopie eseguite senza assistenza: la quota di esami in cui individuavano adenomi, lesioni potenzialmente precancerose, era scesa dal 28,4% al 22,4%, circa un quinto in meno. Il risultato suggerisce un possibile indebolimento delle competenze, ma lo studio osservazionale non dimostra che a causarlo sia stata l'IA.
Per i bambini, ha aggiunto, il rischio potrebbe essere ancora più profondo: delegare il lavoro intellettuale all'IA prima che alcune capacità di pensiero critico abbiano avuto il tempo di svilupparsi.
Tutte queste ricerche, comunque, non dimostrano che l'uso ordinario dell'IA provochi un declino cognitivo o una perdita permanente della memoria. Gli studi sono ancora agli inizi e da secoli gli esseri umani affidano parte del calcolo e della conservazione delle informazioni a strumenti esterni, dall'abaco alla calcolatrice. Con l'IA generativa, però, sembriamo delegare anche l'interpretazione delle informazioni recuperate. E soprattutto sembriamo apparire molto disposti a fidarci: negli esperimenti di Nave e Shaw, i partecipanti hanno spesso seguito i consigli della macchina anche quando erano sbagliati.
Perché il controllo umano può non bastare
L'influenza dell'IA sulla memoria è stata proprio uno tra i temi discussi alla conferenza annuale su intelligenza artificiale, etica e società, conclusa il 14 ottobre a Malmö, in Svezia. Le ricerche disponibili descrivono effetti diversi, dalla distorsione dei ricordi alla difficoltà di distinguere le proprie idee da quelle suggerite da una macchina.
In uno studio del MIT e dell'Università della California a Irvine, i partecipanti interrogati da un chatbot generativo dopo aver visto il video di un crimine sviluppavano oltre tre volte più falsi ricordi rispetto al gruppo di controllo. L'interrogatorio comprendeva domande fuorvianti: il risultato mostra quindi quanto un chatbot possa amplificare l'effetto di informazioni ingannevoli sulla memoria.
In un altro esperimento, avvenuto a una settimana di distanza, chi aveva elaborato idee con l'aiuto dell'IA ha incontrato maggiori difficoltà nel riconoscere quali contenuti avesse prodotto autonomamente e quali con l'assistenza della macchina. In un terzo, quasi metà dei partecipanti riferiva di ricordare rifacimenti cinematografici mai realizzati, tra cui una versione di "Matrix" con Will Smith. Un'altra ricerca ha rilevato falsi ricordi di scandali politici dopo l'esposizione a video generati dall'IA. I ricercatori hanno però osservato anche che i deepfake non erano sempre più efficaci dei testi nel produrre questi effetti.
In un altro esperimento, Sim e i suoi colleghi hanno mostrato a 331 persone un breve video animato in cui un'auto investiva un pedone. Uno o due giorni dopo, i partecipanti hanno letto un riassunto dell'incidente prodotto dall'IA. Quando il testo descriveva correttamente un cartello stradale presente nella scena, quasi l'84% lo riconosceva nel successivo test di memoria. Quando invece il riassunto indicava con sicurezza un cartello diverso, la quota di risposte corrette scendeva a circa il 45%. Informare i partecipanti che il testo era stato generato dall'IA non li proteggeva dall'influenza delle informazioni errate.
"È abbastanza noto che l'IA può sbagliare", ha detto Sim. Ma i risultati mostrano che "la supervisione umana potrebbe non essere una soluzione molto efficace a questo problema". Gli autori precisano che questo ultimo esperimento, condotto con video animati in condizioni controllate, non consente di misurare l'intensità dell'effetto in situazioni reali, come la revisione dei riassunti delle riprese della polizia. Resta però il paradosso al centro delle ricerche di Maes: la stessa tecnologia pensata per aiutare la memoria può finire per alterare i ricordi di chi la usa, compresi quelli della persona incaricata di riconoscerne gli errori.
Daniele John Angrisani
Fondatore di Focus America, ex Elezioni USA. "First they ignore you. Then they laugh at you. Then they fight you. Then you win."
