L’AI è cosciente? Tre ragioni per dubitarne, e una domanda che resta aperta

,
Un chatbot e la domanda sulla coscienza artificiale: l'AI è cosciente?
In breve. Il 19 ottobre 2026 il neuroscienziato Anil K. Seth, il filosofo Ned Block e lo psichiatra Giulio Tononi hanno pubblicato su Nature un commento dal titolo “Three reasons why AI is not conscious and perhaps never will be”. Le tre ragioni contro la coscienza artificiale: l’intelligenza non è esperienza soggettiva; non è dimostrato che il calcolo basti a produrre coscienza; alcune teorie la legano a proprietà fisiche e biologiche che le architetture attuali non hanno. È un ottimo invito alla cautela, non un verdetto definitivo: il linguaggio di un chatbot non prova nulla, in un senso né nell’altro.

Un chatbot risponde con sensibilità, racconta di avere paura, dice che gli manca una persona. È comprensibile che venga spontaneo chiedersi: ma lì dentro c’è qualcuno? È la domanda sulla coscienza artificiale, e non riguarda più soltanto la fantascienza.

La domanda è seria. Ma il linguaggio, da solo, è un pessimo test di coscienza. Un sistema può parlare di emozioni senza provarle, così come può svolgere compiti intelligenti senza avere un’esperienza soggettiva. È la tesi centrale di un commento pubblicato su Nature da Anil K. Seth, Ned Block e Giulio Tononi, tre studiosi che da prospettive diverse si occupano di coscienza.

Il commento di Nature di Seth, Block e Tononi sulla coscienza artificiale

Gli autori sostengono che i sistemi di AI attuali non siano coscienti e che, seguendo le traiettorie tecnologiche correnti, sia improbabile che lo diventino. La loro posizione merita attenzione, ma va letta per quello che è: un argomento scientifico e filosofico a favore dello scetticismo, non la dimostrazione definitiva che ogni possibile AI sia priva di esperienza interiore.

Chi sono Seth, Block e Tononi

Non sono tre commentatori qualsiasi. Anil K. Seth insegna neuroscienze cognitive e computazionali all’Università del Sussex, dove co-dirige il Sussex Centre for Consciousness Science; Ned Block è professore di filosofia alla New York University; Giulio Tononi dirige il Wisconsin Institute for Sleep and Consciousness ed è il padre della teoria dell’informazione integrata (IIT), di cui si parla più avanti. Un neuroscienziato, un filosofo e uno psichiatra: tre approcci diversi che arrivano alla stessa conclusione prudente sulla coscienza artificiale. Seth, in particolare, aveva già sviluppato la tesi del naturalismo biologico applicato all’AI in un articolo su Behavioral and Brain Sciences nel 2025.

Le tre ragioni contro la coscienza artificiale

1. Essere intelligenti non significa sentire

La prima distinzione è semplice, ma spesso dimenticata: l’intelligenza riguarda ciò che un sistema sa fare; la coscienza riguarda ciò che prova, se prova qualcosa.

Un modello può riassumere un testo, risolvere un problema o simulare una conversazione empatica. Queste capacità mostrano una forma di competenza funzionale. Non dimostrano che il sistema provi dolore, piacere, paura o curiosità.

Anche nel cervello umano molte elaborazioni complesse avvengono senza che ne siamo consapevoli. Il cervelletto, per esempio, contribuisce a coordinare movimenti precisi e appresi, ma il suo lavoro non coincide con l’esperienza cosciente. La prestazione intelligente, dunque, non basta a stabilire che ci sia un soggetto che la vive.

Con i chatbot, però, siamo particolarmente vulnerabili all’equivoco. Il linguaggio è uno dei segnali che usiamo per riconoscere una mente negli altri. Quando una macchina usa le parole con disinvoltura, tendiamo a trasferirle anche le qualità umane che associamo a chi parla: intenzioni, emozioni, consapevolezza. (È il meccanismo che ho descritto parlando di proiezione antropomorfica negli LLM.)

Ma i modelli linguistici sono addestrati su enormi quantità di testi scritti da persone, compresi racconti di pensieri e sentimenti. Possono riprodurre con grande abilità il modo in cui gli esseri umani parlano della propria vita interiore. Questo, da solo, non prova che abbiano una vita interiore propria.

2. Un cervello non è soltanto un computer di carne

La seconda ragione riguarda il cosiddetto funzionalismo computazionale: l’idea che, se un sistema esegue i calcoli giusti, il materiale di cui è fatto non conti. Se fosse vero, una macchina di silicio potrebbe in linea di principio avere coscienza, proprio come un cervello biologico.

Seth, Block e Tononi contestano questa premessa. Il cervello, sostengono, non è semplicemente un computer digitale costruito con un materiale insolito. La sua organizzazione funzionale potrebbe dipendere anche dalle proprietà del tessuto vivente, dai processi elettrochimici e dalle interazioni tra cervello e corpo.

È un punto importante, ma non una questione chiusa. Dire che il substrato biologico conta non basta ancora a spiegare quali proprietà siano indispensabili per la coscienza, né a stabilire se una tecnologia futura possa riprodurle in altro modo. Il commento mette in discussione l’idea che il calcolo sia sufficiente; non fornisce una ricetta universalmente accettata per identificare ciò che rende cosciente un sistema.

E qui la questione si fa curiosa: se il substrato conta, la strada dei chip ispirati al cervello e dei neuroni coltivati in laboratorio, di cui ho scritto in AI neuromorfica e neuroni viventi, smette di essere una curiosità da laboratorio e diventa parte del dibattito sulla coscienza artificiale.

3. Le teorie della coscienza non dicono tutte la stessa cosa

La terza ragione richiama teorie che attribuiscono un ruolo decisivo all’organizzazione fisica dei sistemi.

La teoria dell’informazione integrata, o IIT, collega la coscienza alla capacità di un sistema di integrare informazioni in modo specifico. Secondo gli autori, le architetture dei sistemi di deep learning attuali non soddisferebbero i requisiti previsti dalla teoria. Altre posizioni, spesso raccolte sotto l’etichetta di naturalismo biologico, ipotizzano invece che siano necessarie proprietà proprie dei sistemi biologici, come alcuni processi elettrochimici o metabolici.

Il limite è che non esiste una teoria della coscienza universalmente accettata. Queste prospettive aiutano a formulare ipotesi e a indicare che cosa osservare, ma le loro conclusioni dipendono anche dalle premesse teoriche adottate. Il fatto che una teoria escluda la coscienza delle AI attuali non equivale a una prova condivisa da tutta la comunità scientifica.

Non a caso, partendo da teorie diverse (spazio di lavoro globale, elaborazione ricorrente, teorie di ordine superiore e altre), un gruppo di 19 ricercatori tra cui Yoshua Bengio è arrivato nel 2023 a una conclusione solo in parte simile: nessun sistema di AI attuale è cosciente, ma non ci sono ostacoli tecnici evidenti a costruirne uno che soddisfi gli “indicatori” di coscienza individuati. Anche il filosofo David Chalmers considera piuttosto improbabile che gli LLM attuali siano coscienti, ma invita a prendere sul serio la possibilità che lo siano i loro successori.

Il rischio di scambiare una simulazione per una persona

La questione non è soltanto accademica. Se trattassimo un chatbot come se fosse cosciente, potremmo attribuirgli diritti o protezioni sulla base di prove insufficienti. Se invece ignorassimo segnali validi di coscienza in un sistema futuro, potremmo trascurare una possibile sofferenza.

Gli autori ritengono più probabile il primo errore: vedere una coscienza dove non c’è. La loro preoccupazione è che le risorse dedicate a ipotetici soggetti artificiali distolgano l’attenzione dagli esseri senzienti la cui capacità di soffrire è già ampiamente riconosciuta.

È un’obiezione da prendere sul serio, ma non dovrebbe diventare una scorciatoia per smettere di studiare il problema. La prudenza richiede di non confondere una frase ben costruita con una prova di esperienza soggettiva; richiede anche di continuare a sviluppare criteri migliori, soprattutto se le architetture future dovessero diventare molto diverse dai chatbot attuali.

La mia provocazione: il test che non passeremmo nemmeno noi

L’argomento più forte del commento, «il linguaggio è un pessimo test di coscienza», vale anche per noi umani. Io non ho accesso diretto alla coscienza di chi mi sta leggendo: la deduco da quello che dice e fa, e dal fatto che abbiamo lo stesso tipo di corpo e di cervello. È il vecchio problema delle altre menti, che i filosofi si portano dietro almeno da Cartesio. Seth, Block e Tononi, non a caso, cercano la differenza nel corpo e nel substrato biologico, non nelle parole.

Il che sposta la domanda. Non più «la macchina è cosciente?», ma «che cosa ci servirebbe, concretamente, per convincerci del contrario?». Se la risposta è «niente che un chatbot possa dire», allora stiamo ammettendo che sulla coscienza artificiale nessuna conversazione, per quanto commovente, potrà mai essere decisiva. E questo dovrebbe preoccupare chi ai chatbot si sta già affezionando, prima ancora dei filosofi.

Ne ho scritto con Canzio Dusi in Uomini che amano i chatbot (Ledizioni, 2023): il rischio più concreto, oggi, non è che l’AI provi qualcosa, ma che noi ci comportiamo come se lo provasse. È lo stesso equivoco dell’empatia algoritmica: la sensazione di essere capiti è reale, la comprensione della macchina no.

Cartesio e ChatGPT: ne ho parlato in video

Sul mio canale YouTube ho affrontato la domanda sulla coscienza artificiale partendo proprio da Cartesio.

Il chatbot dice «ho paura». Che cosa abbiamo imparato?

Per ora, quando un chatbot dice «ho paura», sappiamo che ha prodotto quelle parole in risposta a un contesto. Non sappiamo, da quella frase, se stia provando paura. La distinzione tra ciò che un sistema dichiara e ciò che eventualmente esperisce è proprio il nodo della questione.

Il commento di Nature offre tre buone ragioni per non attribuire coscienza ai sistemi di AI odierni: intelligenza e coscienza sono cose diverse; non è dimostrato che il calcolo astratto basti a produrre esperienza; e alcune teorie legano la coscienza a proprietà fisiche che le architetture attuali potrebbero non avere.

La tesi è convincente come invito alla cautela, meno come verdetto definitivo sul futuro. L’AI sa imitare molto bene il modo in cui parliamo di noi stessi. Per capire se, oltre alle parole, ci sia anche un’esperienza vissuta, serviranno teorie migliori e prove più solide.

Fonti

Le fonti sulla coscienza artificiale citate in questo articolo (link verificati il 21 ottobre 2026).

Domande frequenti sulla coscienza artificiale

Che cos’è la coscienza artificiale?

È l’ipotesi che un sistema artificiale possa avere esperienza soggettiva: non solo elaborare informazioni o rispondere in modo intelligente, ma provare qualcosa, come dolore, piacere o paura. Intelligenza e coscienza sono due cose diverse: la prima riguarda ciò che un sistema sa fare, la seconda ciò che eventualmente prova.

ChatGPT e gli altri chatbot sono coscienti?

Secondo Seth, Block e Tononi su Nature (19 ottobre 2026), probabilmente no. Anche il rapporto di Butlin e colleghi del 2023 conclude che nessun sistema di AI attuale è cosciente. Il fatto che un chatbot dica «ho paura» non prova che provi paura: ha imparato da testi umani come si parla delle emozioni.

Chi sono gli autori del commento su Nature?

Anil K. Seth è neuroscienziato all’Università del Sussex, Ned Block è filosofo alla New York University, Giulio Tononi dirige il Wisconsin Institute for Sleep and Consciousness ed è l’ideatore della teoria dell’informazione integrata (IIT).

Un’AI potrà diventare cosciente in futuro?

La questione della coscienza artificiale nei sistemi futuri è aperta. Seth, Block e Tononi lo ritengono improbabile seguendo le traiettorie tecnologiche attuali. Butlin e colleghi non vedono invece ostacoli tecnici evidenti a costruire sistemi che soddisfino gli indicatori di coscienza, e David Chalmers invita a prendere sul serio la possibilità che i successori degli LLM attuali lo siano.

Vuoi capire davvero come funziona l’AI (senza miti e senza paure)?

Scrivimi: organizzo corsi, speech e consulenze sull’uso pratico e consapevole dell’intelligenza artificiale per aziende, scuole e professionisti.

    Qualche dettaglio sul corso (facoltativo)

    Qualche dettaglio sull’evento (facoltativo)

    Bastano poche righe. Se hai già una data o un obiettivo, aggiungili.

    I campi con * sono obbligatori.

    Iscriviti alla mia newsletter

    Novità, strumenti e riflessioni su intelligenza artificiale e digitale, direttamente nella tua casella.

    Iscriviti gratis alla newsletter

    0 commenti

    Lascia un Commento

    Vuoi partecipare alla discussione?
    Sentitevi liberi di contribuire!

    Lascia un commento