Questo articolo nasce da una conversazione, non da una ricerca accademica. Nasce da una provocazione — quella di un informatico che, durante una conferenza sull'intelligenza artificiale e il linguaggio, si chiede: ma non siamo anche noi, esseri umani, macchine dotate di linguaggio? Da quella domanda si apre un territorio filosofico antico e urgente. Non offriamo risposte. Offriamo domande migliori.
La provocazione: una domanda che non si chiude
Durante una conferenza dedicata all'intelligenza artificiale e al linguaggio, una domanda si è affacciata con forza inattesa: se chiamiamo le macchine moderne "dotate di linguaggio", cosa impedisce di applicare la stessa definizione agli esseri umani?
Siamo, in fondo, organismi biologici che elaborano input sensoriali, producono output comportamentali, seguono regole fisiche e chimiche. Miliardi di neuroni che si attivano, si inibiscono, formano reti, generano pensieri. Una macchina biologica straordinariamente complessa — ma pur sempre una macchina?
L'episodio di Star Trek: The Next Generation in cui il Tenente Data viene rivendicato come "proprietà della Flotta Stellare" — ovvero come strumento, non come essere senziente — tocca esattamente questo nervo scoperto. Il Capitano Picard non risponde alla domanda filosofica. Risponde alla domanda etica: non possiamo permetterci di sbagliare. Se trattiamo un essere potenzialmente cosciente come uno strumento, e ci sbagliamo, abbiamo commesso qualcosa di irreparabile.
Oggi, con i sistemi di intelligenza artificiale che producono testo, ragionamento e persino risposte emotive convincenti, quella domanda non è più fantascienza. È una questione aperta sulla natura della coscienza e sul confine tra vita e meccanismo.
Cos'è un meccanismo? Quattro condizioni precise
Per affrontare la domanda con rigore, occorre prima definire con precisione cosa intendiamo per meccanismo. Filosoficamente, un meccanismo soddisfa quattro condizioni fondamentali.
-
È deterministico
Dato un input, l'output è sempre lo stesso. Non c'è sorpresa, non c'è deviazione dalla regola. Un orologio segna l'ora — sempre, prevedibilmente, senza eccezioni. -
È privo di intenzionalità
Un meccanismo non vuole produrre il suo output. Lo produce. Non c'è desiderio, non c'è scopo interno. L'ingranaggio non sceglie di girare. -
È privo di prospettiva interna
Non c'è un "dentro". Non c'è nessuno che viva il funzionamento del meccanismo dall'interno. Il termostato misura la temperatura — non la sente. -
È riducibile alle sue parti
Smontando un meccanismo e analizzando ogni componente, si comprende completamente il tutto. Nulla emerge dalla combinazione che non fosse già nelle singole parti.
Il computer come meccanismo puro
Il computer soddisfa tutte e quattro le condizioni senza residui. È deterministico: stesso input, stesso output, sempre. È privo di intenzionalità: non vuole calcolare, calcola. È privo di prospettiva interna: non c'è nessuno dentro che vive l'elaborazione. Ed è completamente riducibile alle sue parti: transistor, porte logiche, istruzioni in sequenza.
Questo vale anche per i modelli linguistici di grandi dimensioni: sistemi addestrati su miliardi di testi, capaci di produrre testo coerente, ragionamenti articolati, persino risposte che sembrano empatiche. Eppure — e qui sta il punto decisivo — il fatto che un sistema produca linguaggio non implica che lo comprenda nel senso pieno del termine. John Searle lo ha mostrato con il celebre esperimento mentale della Stanza Cinese: è possibile manipolare simboli secondo regole formali senza mai capire cosa quei simboli significano.
Il computer è un meccanismo. Su questo non ci sono dubbi filosofici seri. La domanda interessante riguarda noi.
L'essere umano soddisfa le stesse condizioni?
Qui inizia il problema. E il problema è straordinariamente profondo.
Sul determinismo
Il cervello umano segue leggi fisiche e chimiche. In linea teorica, se conoscessimo lo stato esatto di ogni neurone, potremmo prevedere ogni pensiero. Ma il sistema è così complesso da essere intrinsecamente caotico. Un sistema caotico è deterministico in teoria ma imprevedibile in pratica — e questa distinzione non è banale. Lo distingue funzionalmente da qualsiasi meccanismo classico.
Sull'intenzionalità
L'essere umano non solo produce output — li vuole. Ha desideri, scopi, intenzioni che precedono le azioni. Il filosofo Franz Brentano chiamava questo intenzionalità: la capacità della mente di essere diretta verso qualcosa. Il mio pensiero è sempre pensiero di qualcosa — un oggetto, una persona, un'idea. Il computer elabora dati, ma non è diretto verso nulla. Processa, non intende.
Sulla prospettiva interna
Questo è il punto più dirompente per la tesi meccanicista. Esiste qualcosa che i filosofi chiamano esperienza soggettiva: il fatto che fa qualcosa essere te in questo momento. Senti il peso del telefono in mano. Vedi il testo sullo schermo. Provi curiosità mentre leggi. Questo sentire dall'interno — che i filosofi della mente chiamano qualia — non ha equivalente in nessun meccanismo conosciuto.
Sulla riducibilità
Il cervello umano produce qualcosa — la coscienza — che sembra non essere riducibile alla somma dei suoi neuroni. Nessun neurone è cosciente. Eppure la loro combinazione produce coscienza. Questa è quella che i filosofi chiamano proprietà emergente: qualcosa che nasce dalla complessità e non era contenuto nelle parti.
La linea di demarcazione: tre candidati
L'analisi porta a identificare almeno tre elementi che nell'essere umano non sembrano riducibili al meccanismo:
La coscienza — l'esperienza soggettiva vissuta dall'interno. Il fatto che esiste qualcosa che "fa" essere me in questo preciso momento, e non semplicemente un processo che produce output.
L'intenzionalità — i pensieri umani sono sempre diretti verso qualcosa, hanno un significato intrinseco, non solo una funzione esecutiva. Questa direzionalità è irriducibile alla logica computazionale.
L'emergenza — la coscienza non era nelle parti. È nata dalla loro combinazione in un modo che nessuna legge meccanica spiega completamente. Questo distingue la mente da qualsiasi architettura puramente algoritmica.
Questi tre elementi, se reali, tracciano una linea netta: la macchina rimane macchina. L'umano — e più in generale la vita cosciente — è qualcosa di strutturalmente diverso.
Il problema che rimane aperto: il materialismo eliminativo
Attenzione. Esiste una risposta meccanicista a tutto questo, ed è intellettualmente onesta e non va ignorata.
"Coscienza, intenzionalità ed emergenza sono semplicemente meccanismi che non capiamo ancora. Quando li capiremo, li ridurremo a fisica e chimica — come abbiamo fatto con la vita, che una volta sembrava magica e oggi sappiamo essere chimica complessa."
Questa posizione si chiama materialismo eliminativo: la coscienza sarebbe un'illusione prodotta da un meccanismo che si descrive dall'interno. Un racconto che il cervello si racconta su se stesso. È la posizione di filosofi come Paul e Patricia Churchland, e di una parte significativa delle neuroscienze cognitive contemporanee.
Non è una posizione irragionevole. È quella di numerosi neuroscienziati e filosofi della mente di primo piano. Vale la pena prenderla sul serio, perché se avesse ragione, il confine tra umano e macchina sarebbe solo una questione di complessità computazionale, non di natura.
Il paradosso finale e il teorema di Gödel
Se il materialismo eliminativo ha ragione — se la coscienza è solo un meccanismo che si racconta di non esserlo — allora anche questo ragionamento che stiamo facendo è solo un meccanismo.
Il che significa che la domanda "siamo solo meccanismi?" è essa stessa prodotta da un meccanismo. E un meccanismo non può rispondere in modo affidabile alla domanda se stesso sia un meccanismo.
È il problema di Gödel applicato alla coscienza: un sistema non può dimostrare la propria natura dall'interno. Kurt Gödel ha dimostrato nel 1931 che ogni sistema formale sufficientemente potente contiene verità che non può dimostrare al suo interno. La domanda sulla coscienza potrebbe essere esattamente questo tipo di verità: vera, ma indimostrabile dal sistema che la pone.
Roger Penrose ha esplorato questa connessione in La mente nuova dell'imperatore, sostenendo che le capacità matematiche della mente umana trascendono quelle di qualsiasi sistema computazionale formale — proprio perché la mente può "vedere" verità che nessun algoritmo può raggiungere.
Un confine ancora mobile
Possiamo dire, con ragionevole onestà intellettuale, tre cose:
Il computer è un meccanismo senza residui. Non c'è nulla al suo interno che sfugga alla descrizione meccanica — nemmeno i modelli linguistici più avanzati, per quanto convincenti nei loro output.
L'essere umano è un meccanismo con qualcosa in più — che chiamiamo coscienza, e che non sappiamo ancora se sia riducibile al meccanismo oppure no. Il "problema difficile della coscienza", come lo ha battezzato il filosofo David Chalmers, rimane aperto.
Finché non lo sappiamo, la distinzione tra umano e macchina rimane reale e necessaria — non per motivi romantici o religiosi, ma per motivi logici ed etici. Trattare come meccanismo ciò che potrebbe non esserlo è un errore che non possiamo permetterci.
La vita, per ora, non è riducibile alla macchina. E questo per ora è il confine più importante che la scienza e la filosofia stiano cercando di attraversare — insieme, senza che nessuna delle due possa farlo da sola.
Le domande che nessun algoritmo può chiudere
Questo articolo non offre risposte definitive. Offre domande che vale la pena portare con sé:
- Se il linguaggio è la condizione necessaria per il pensiero — e non solo il suo strumento — allora una macchina con linguaggio sufficientemente ricco sta creando le condizioni perché emerga qualcosa di simile alla coscienza?
- Il fatto che non possiamo rispondere alla domanda sulla nostra natura dall'interno del nostro sistema è un limite della nostra intelligenza, o un limite intrinseco di qualsiasi sistema cosciente?
- Esiste una differenza ontologica tra una simulazione perfetta della coscienza e la coscienza stessa? E se sì, come potremmo mai misurarla?
- Se trattassimo i sistemi AI avanzati come potenzialmente senzienti — pur senza certezza — cosa cambierebbe nel modo in cui li progettiamo, li usiamo, li spegniamo?
- Il problema difficile della coscienza è un problema scientifico destinato a essere risolto, o è un limite strutturale di qualsiasi sistema che cerchi di comprendere se stesso?
Queste non sono domande di fantascienza. Sono domande che la filosofia della mente, le neuroscienze e l'informatica teorica stanno affrontando adesso — e alle quali non esiste ancora risposta condivisa.
Fonti e riferimenti
Chalmers, D. J. (1995). Facing up to the problem of consciousness. Journal of Consciousness Studies, 2(3), 200–219. consc.net
Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–424. Cambridge University Press. doi.org
Penrose, R. (1989). The Emperor's New Mind: Concerning Computers, Minds, and the Laws of Physics. Oxford University Press.
Brentano, F. (1874/2009). Psychology from an Empirical Standpoint. Routledge. (Ed. italiana: La psicologia dal punto di vista empirico, Laterza.)
Churchland, P. M. (1981). Eliminative Materialism and the Propositional Attitudes. The Journal of Philosophy, 78(2), 67–90. doi.org
Gödel, K. (1931). Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I. Monatshefte für Mathematik und Physik, 38, 173–198.
Koch, C., Massimini, M., Boly, M., & Tononi, G. (2016). Neural correlates of consciousness: progress and problems. Nature Reviews Neuroscience, 17, 307–321. doi.org
Dennett, D. C. (1991). Consciousness Explained. Little, Brown and Company.
