TV7 NEXT - L’AI HA UNA COSCIENZA?
L’intelligenza artificiale è ormai entrata stabilmente nel nostro modo di lavorare, comunicare e produrre contenuti. I sistemi più avanzati scrivono testi, generano codice, elaborano immagini, analizzano dati e dialogano con una naturalezza che fino a pochi anni fa sembrava materiale da fantascienza. Proprio questa apparente naturalezza ha riportato al centro una domanda antica e delicatissima: una macchina potrebbe mai essere cosciente?
Un nuovo paper firmato da Alexander Lerchner, Senior Staff Scientist di Google DeepMind, affronta la questione con una posizione molto netta. Il titolo è già un programma: The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness. In italiano: la fallacia dell’astrazione, perché l’intelligenza artificiale può simulare la coscienza ma non istanziarla, cioè non possederla realmente.
Il documento, pubblicato su PhilArchive, ha raccolto decine di migliaia di download in poche settimane. Il dato non sorprende: il tema è centrale, e il fatto che la tesi arrivi da un ricercatore legato a Google DeepMind rende la vicenda ancora più significativa. DeepMind è infatti uno dei laboratori più importanti al mondo nello sviluppo dell’intelligenza artificiale avanzata.
Il punto sostenuto da Lerchner è chiaro: un sistema artificiale può riprodurre comportamenti compatibili con la coscienza, ma questo non significa che abbia un’esperienza soggettiva. Può parlare come se capisse, rispondere come se provasse emozioni, descrivere dolore, gioia, paura o intenzione. Resta però una simulazione.
LA FALLACIA DELL’ASTRAZIONE
Secondo Lerchner, l’errore centrale del dibattito sta nel confondere la descrizione astratta di un processo fisico con il processo stesso. Questa è la cosiddetta “abstraction fallacy”.
Un esempio può aiutare. Una simulazione meteorologica può descrivere perfettamente un temporale, ma non bagna nessuno. Una simulazione del fuoco può rappresentare una fiamma, ma non scalda. Allo stesso modo, una simulazione della coscienza potrebbe produrre risposte simili a quelle di un essere cosciente, senza generare alcuna esperienza interiore.
Il paper critica in particolare il funzionalismo computazionale, cioè l’idea secondo cui la coscienza possa emergere da qualunque sistema che organizzi informazioni nel modo corretto, indipendentemente dal supporto fisico. In questa visione, se una macchina riproduce la struttura funzionale della mente, allora potrebbe anche possedere coscienza.
Lerchner contesta proprio questo passaggio. Secondo la sua tesi, la coscienza non sarebbe separabile dalla dimensione fisica, biologica e corporea. Serve materia, serve corpo, serve esperienza incarnata. Non basta manipolare simboli o generare risposte statisticamente plausibili.
Un altro punto riguarda il significato. I sistemi di intelligenza artificiale non producono significato dal nulla. Dipendono da dati organizzati, categorie costruite, esempi etichettati e strutture interpretative create dagli esseri umani. Prima che un modello riconosca un gatto o un cane, qualcuno ha costruito il mondo dei dati in cui quelle parole abbiano senso.
In questa prospettiva, l’AI non sarebbe un soggetto che comprende, ma un sistema che rielabora strutture di significato già prodotte dall’esperienza umana.
PERCHÉ IL TEMA È ANCHE POLITICO
Il paper non è importante soltanto per la filosofia della mente. Ha implicazioni tecnologiche, industriali e regolatorie.
Da un lato, i grandi laboratori di intelligenza artificiale parlano sempre più spesso di AGI, Artificial General Intelligence, cioè intelligenza artificiale generale. Con questa espressione si indica un sistema capace di svolgere un’ampia gamma di compiti cognitivi con flessibilità simile, o superiore, a quella umana.
Dall’altro lato, Lerchner sostiene che anche un sistema estremamente avanzato resterebbe privo di coscienza. Potrebbe essere potentissimo, utile, rischioso, autonomo in alcune funzioni, ma non senziente.
Questa distinzione è cruciale. Se una macchina non può essere cosciente, allora il problema principale non riguarda eventuali diritti della macchina, ma la responsabilità umana nella progettazione, nell’uso e nella regolazione di questi sistemi. L’AI resterebbe uno strumento, anche quando molto sofisticato.
Qui si apre un nodo delicato. Una tesi come quella di Lerchner potrebbe essere usata per sostenere che le AI non meritino alcuna forma di tutela in quanto soggetti. Al tempo stesso, non riduce affatto la necessità di regole sugli effetti sociali, economici e politici dell’intelligenza artificiale.
Un sistema non cosciente può comunque influenzare mercati, lavoro, informazione, sicurezza, istruzione e democrazia. Non serve che una macchina “senta” qualcosa per produrre conseguenze reali sugli esseri umani.
Il paper ha ricevuto anche critiche. Alcuni filosofi e studiosi della cognizione incarnata osservano che molte delle idee proposte da Lerchner siano già presenti da decenni nel dibattito accademico. La novità, quindi, non sarebbe tanto nella tesi, quanto nel fatto che venga formulata da un ricercatore interno a uno dei principali laboratori mondiali di AI.
Questo rende la vicenda particolarmente interessante. Dentro lo stesso ecosistema convivono due narrazioni: quella dell’AI come tecnologia destinata a trasformare radicalmente la civiltà, e quella dell’AI come sistema capace di simulare l’intelligenza senza mai diventare un soggetto cosciente.
Il dibattito resta aperto, e probabilmente lo resterà a lungo. La domanda non è soltanto se una macchina possa pensare, ma cosa intendiamo davvero per pensiero, esperienza e coscienza.
Nel frattempo, l’intelligenza artificiale continuerà a migliorare. I modelli diventeranno più capaci, gli agenti più autonomi, le simulazioni più convincenti. Proprio per questo distinguere tra simulazione e coscienza diventerà sempre più importante.
Perché il rischio non è solo attribuire troppa umanità alle macchine. È anche dimenticare che, dietro ogni macchina, restano sempre scelte umane, interessi economici e responsabilità politiche.
Servizio a cura di Claudia Chasen, redazione TV7.
