Il mito dell'Intelligenza Artificiale cosciente

Di seguito una sintesi dell’articolo The Mythology Of Conscious AI di Anil Seth, un professore inglese di neuroscienze e direttore del Centre for Consciousness Science presso l’Università del Sussex.

Introduzione

Da secoli, l’umanità fantastica sull’idea di giocare a essere Dio, creando versioni artificiali degli esseri umani. Questo sogno si reinventa con ogni ondata di nuova tecnologia. Con l’ingegneria genetica è emersa la prospettiva della clonazione umana, e con la robotica quella degli androidi simili agli esseri umani.

L’ascesa dell’intelligenza artificiale rappresenta un’altra ondata tecnologica, potenzialmente uno tsunami. I sistemi di AI che ci circondano sono già, in qualche modo, intelligenti. E diventeranno sempre più intelligenti. Ma sono, o potrebbero mai essere, coscienti? E perché questo sarebbe importante?

La storia culturale della coscienza sintetica è lunga e, per lo più, infelice. Dal Golem di Yossele al Frankenstein di Mary Shelley, da HAL 9000 in 2001: Odissea nello spazio ad Eva in Ex Machina, fino a Klara in Klara e il Sole, il sogno di creare corpi artificiali e menti sintetiche che pensino e provino emozioni raramente ha un lieto fine, almeno per gli esseri umani coinvolti.

Alcuni ritengono che l’AI cosciente sia già tra noi. Nel 2022, in un’intervista al The Washington Post, l’ingegnere di Google Blake Lemoine ha fatto una dichiarazione sconvolgente sul sistema di AI su cui stava lavorando, un chatbot chiamato LaMDA: ha affermato che era cosciente, che aveva sentimenti e che era simile a una persona reale. Nonostante il clamore mediatico, Lemoine non è stato preso molto sul serio. Google lo ha licenziato per violazione delle politiche di riservatezza, e il treno dell’AI ha continuato la sua corsa.

Ma la domanda che ha sollevato non è svanita. Licenziare qualcuno per violazione della riservatezza non è la stessa cosa che licenziarlo per essersi sbagliato. Man mano che le tecnologie di AI continuano a migliorare, le domande sulla coscienza delle macchine vengono poste sempre più spesso. David Chalmers, uno dei massimi pensatori in questo campo, ha suggerito che macchine coscienti potrebbero essere possibili in un futuro non troppo lontano. Geoffrey Hinton, pioniere dell’AI e recente vincitore del Premio Nobel, ritiene che esistano già. Alla fine del 2024, un gruppo di ricercatori di spicco ha scritto un articolo ampiamente diffuso sulla necessità di prendere sul serio il benessere dei sistemi di AI. Per molti esperti di AI e neuroscienze, l’emergere della coscienza nelle macchine non è una questione di se, ma di quando.

Soprattutto, il modo in cui pensiamo all’AI cosciente è importante per come comprendiamo la nostra stessa natura umana e la natura delle esperienze coscienti che rendono la nostra vita degna di essere vissuta. Se ci confondiamo troppo facilmente con le nostre creazioni meccaniche, non solo sovrastimiamo loro, ma sottovalutiamo anche noi stessi.

Le tentazioni dell’IA cosciente

Perché mai dovremmo pensare che l’AI possa essere cosciente? Dopotutto, i computer sono molto diversi dagli organismi biologici e le uniche cose che la maggior parte delle persone attualmente ritiene siano coscienti sono fatte di carne, non di metallo.

La prima ragione risiede nella nostra stessa infrastruttura psicologica. Come esseri umani, sappiamo di essere coscienti e ci piace pensare di essere intelligenti, quindi ci sembra naturale assumere che le due cose vadano insieme. Ma solo perché vanno insieme in noi non significa che debbano andare insieme in generale.

L’intelligenza e la coscienza sono cose diverse. L’intelligenza riguarda principalmente il fare: risolvere un cruciverba, montare un mobile, camminare fino al negozio. Tutto questo implica un comportamento intelligente di qualche tipo. Una definizione utile di intelligenza è la capacità di raggiungere obiettivi complessi con mezzi flessibili. Esistono molte altre definizioni, ma tutte sottolineano le capacità funzionali di un sistema: la capacità di trasformare gli input in output, di portare a termine le cose.

Un sistema di intelligenza artificiale è misurato dalla sua capacità di eseguire comportamenti intelligenti di qualche tipo, anche se non necessariamente in una forma simile a quella umana. Il concetto di intelligenza artificiale generale (AGI), al contrario, fa esplicito riferimento all’intelligenza umana. Dovrebbe eguagliare o superare le competenze cognitive degli esseri umani.

La coscienza, al contrario, riguarda principalmente l’essere. Mezzo secolo fa, il filosofo Thomas Nagel ha affermato che “un organismo ha stati mentali coscienti se e solo se c’è qualcosa che significa essere quell’organismo”. La coscienza è la differenza tra la veglia e l’oblio dell’anestesia generale. È l’aspetto esperienziale della funzione cerebrale e, in particolare, della percezione.

I sistemi di AI possono ragionevolmente rivendicare una qualche forma di intelligenza, poiché possono certamente fare cose, ma è più difficile dire se ci sia qualcosa che significa essere ChatGPT.

I pregiudizi psicologici

La tendenza a legare intelligenza e coscienza può essere ricondotta a tre pregiudizi psicologici innati:

1. Antropocentrismo: la tendenza a vedere le cose attraverso la lente dell’essere umano, prendendo l’esempio umano come definizione, piuttosto che come uno dei molti modi in cui diverse proprietà possono combinarsi.
2. Eccezionalismo umano: la nostra abitudine di collocare la specie umana in cima a ogni gerarchia, e talvolta in una categoria a parte (più vicina agli angeli e agli dei che agli altri animali, come nella Scala naturae medievale).
3. Antropomorfismo: la tendenza a proiettare qualità umane su cose non umane sulla base di somiglianze superficiali.

Insieme, questi pregiudizi spiegano perché non è sorprendente che, quando le cose mostrano capacità che consideriamo tipicamente umane, come l’intelligenza, tendiamo naturalmente ad attribuire loro anche altre qualità che sentiamo essere caratteristicamente o addirittura esclusivamente umane: comprensione, mente e coscienza.

Il ruolo del linguaggio

Un aspetto del comportamento intelligente che si è rivelato particolarmente efficace nel far pensare ad alcune persone che l’AI possa essere cosciente è il linguaggio. Questo probabilmente perché il linguaggio è una pietra miliare dell’eccezionalismo umano. I grandi modelli linguistici come ChatGPT di OpenAI o Claude di Anthropic sono stati al centro di gran parte dell’entusiasmo sull’intelligenza artificiale cosciente. Nessuno, per quanto ne so, ha mai affermato che AlphaFold di DeepMind sia cosciente, anche se, sotto il cofano, è piuttosto simile a un LLM. Tutti questi sistemi funzionano su silicio e utilizzano reti neurali artificiali e altre innovazioni algoritmiche come i transformer. AlphaFold, che predice la struttura delle proteine piuttosto che le parole, semplicemente non tocca le nostre corde psicologiche nello stesso modo.

Anche il linguaggio che usiamo noi stessi è importante. Consideriamo quanto sia diventato normale dire che gli LLM “hanno allucinazioni” quando producono falsità. Nelle persone, le allucinazioni sono principalmente esperienze coscienti che hanno perso il contatto con la realtà (percezioni incontrollate, si potrebbe dire). Abbiamo allucinazioni quando sentiamo voci che non ci sono o vediamo un parente defunto ai piedi del letto. Quando diciamo che i sistemi di AI “hanno allucinazioni”, conferiamo loro implicitamente una capacità di esperienza. Se dobbiamo usare un’analogia umana, sarebbe molto meglio dire che “confabulano”. Negli esseri umani, la confabulazione comporta inventare cose senza rendersene conto. Riguarda principalmente il fare, piuttosto che l’esperire.

Quando identifichiamo l’esperienza cosciente con qualità apparentemente umane come intelligenza e linguaggio, diventiamo più propensi a vedere la coscienza dove non esiste e a non vederla dove invece c’è. Certamente non dovremmo assumere che la coscienza arrivi automaticamente con l’aumentare dell’intelligenza dell’AI, e se sentite qualcuno dire che la vera coscienza artificiale emergerà magicamente alla soglia arbitraria dell’AGI, è un chiaro segno che l’eccezionalismo umano è all’opera.

Altri pregiudizi in gioco

Ci sono anche altri pregiudizi in gioco. C’è anche l’idea che tutto nell’AI stia cambiando in modo esponenziale. Che si tratti di potenza di calcolo, come indicato dalla Legge di Moore, o delle nuove capacità disponibili, le cose stanno certamente cambiando rapidamente. Per questo motivo, si è tentati di pensare di essere sempre sull’orlo di una grande transizione, e cosa potrebbe esserci di più grande della creazione di una vera coscienza artificiale?

Infine, c’è la tentazione dell’estasi tecnologica. All’inizio del film Ex Machina, il programmatore Caleb dice all’inventore Nathan: “Se hai creato una macchina cosciente, non è la storia dell’umanità, è la storia degli dei”. Se sentiamo di essere a una transizione tecno-storica e siamo tra i suoi artefici, allora la tentazione prometeica deve essere difficile da evitare: la sensazione di portare all’umanità ciò che un tempo era appannaggio del divino. E con questa singolarità arriva l’estasi caratteristica che offre l’immortalità: la promessa di sfuggire ai nostri corpi biologici scomodi e in decomposizione e di vivere (o almeno esistere) per sempre, fluttuando verso l’eternità in una nuvola di silicio.

Forse questa è una delle ragioni per cui le dichiarazioni sull’imminente coscienza delle macchine sembrano più comuni tra i tecnocrati che al di fuori di questo ambiente.

Coscienza e calcolo

L’idea stessa di un’AI cosciente si basa sull’assunzione che la coscienza sia una questione di calcolo. Più specificamente, che implementare il giusto tipo di calcolo, o elaborazione delle informazioni, sia sufficiente per far emergere la coscienza. Questa assunzione, che i filosofi chiamano funzionalismo computazionale, è così profondamente radicata che può essere difficile riconoscerla come un’assunzione. Ma è esattamente questo: un’assunzione. E se fosse sbagliata, come credo possa essere, allora la vera coscienza artificiale è completamente fuori discussione, almeno per i tipi di AI che conosciamo.

Mettere in discussione il funzionalismo computazionale significa addentrarsi in acque profonde su cosa significhi calcolo e cosa significhi dire che un sistema fisico, come un computer o un cervello, calcola qualcosa. Riassumerò quattro argomenti correlati che minano l’idea che il calcolo, almeno di quello implementato nei computer digitali standard, sia sufficiente per la coscienza.

1. I cervelli non sono computer

Prima di tutto, e più importante, i cervelli non sono computer. La metafora del cervello come computer a base di carbonio ha avuto un’influenza enorme e un appeal immediato: la mente come software, il cervello come hardware. È stata anche estremamente produttiva, portando a molte intuizioni sul funzionamento del cervello e all’AI odierna. Per comprendere il potere e l’influenza di questa metafora, e per coglierne i limiti, dobbiamo rivisitare alcuni pionieri dell’informatica e della neurobiologia.

Alan Turing svetta su tutti gli altri in questa storia. Negli anni ‘50, ha piantato il seme dell’idea che le macchine potessero essere intelligenti e, più di un decennio prima, ha formulato una definizione di calcolo che è rimasta fondamentale per le nostre tecnologie e per la comprensione comune di cosa siano i computer.

La definizione di calcolo di Turing è estremamente potente e altamente (anche se, come vedremo, non completamente) generale. Si basa sul concetto astratto di macchina di Turing: un dispositivo semplice che legge e scrive simboli su un nastro infinito secondo un insieme di regole. Le macchine di Turing formalizzano l’idea di un algoritmo: una sequenza di passaggi, da un input (una stringa di simboli) a un output (un’altra stringa del genere); una ricetta matematica, se vogliamo. Il contributo critico di Turing è stato definire ciò che è diventato noto come macchina di Turing universale: un altro dispositivo astratto, ma questa volta capace di simulare qualsiasi macchina di Turing specifica - qualsiasi algoritmo - prendendo la descrizione della macchina target come parte del suo input. Questa capacità generale è una delle ragioni per cui il calcolo di Turing è così potente e diffuso. Il laptop con cui sto scrivendo, così come le macchine nei data center che eseguono l’ultimo modello di AI, sono tutti esempi fisici e concreti (o approssimazioni) di macchine di Turing universali, limitati da vincoli fisici come tempo e memoria.

Un altro grande vantaggio di questo quadro teorico, dal punto di vista dell’ingegneria pratica, è la netta separazione che consente tra calcolo astratto (software) e implementazione fisica (hardware). Un algoritmo (nel senso descritto sopra) dovrebbe fare la stessa cosa, indipendentemente dal computer su cui viene eseguito. Il calcolo di Turing è, in linea di principio, indipendente dal substrato: non dipende da alcuna base materiale particolare. In pratica, è meglio descriverlo come flessibile rispetto al substrato, poiché non si può creare un computer funzionante con qualsiasi materiale arbitrario (il formaggio, ad esempio, non è all’altezza del compito).

All’incirca nello stesso periodo in cui Turing stava lasciando il suo segno, il matematico Walter Pitts e il neurofisiologo Warren McCulloch hanno dimostrato, in un articolo fondamentale, che reti di neuroni astratti altamente semplificati possono eseguire operazioni logiche. Lavori successivi, tra gli altri del logico Stephen Kleene, hanno dimostrato che le reti neurali artificiali come queste, quando fornite di una memoria simile a un nastro (come nella macchina di Turing), erano Turing-complete: potevano, in linea di principio, implementare qualsiasi macchina di Turing, qualsiasi algoritmo.

Mettendo insieme queste idee, otteniamo un matrimonio matematico di convenienza e influenza. Da un lato, possiamo ignorare la complessa realtà neurobiologica dei cervelli reali e trattarli come reti semplificate di neuroni astratti, ognuno dei quali si limita a sommare i propri input e a produrre un output. Dall’altro, quando lo facciamo, otteniamo tutto ciò che il calcolo di Turing ha da offrire, che è molto.

I frutti di questo matrimonio sono le reti neurali artificiali che alimentano l’AI odierna. Queste sono discendenti diretti di McCulloch, Pitts e Kleene, che implementano anche algoritmi flessibili dal punto di vista del substrato.

Ma è qui che iniziano i problemi. All’interno di un cervello, non c’è una netta separazione tra “mente” e “sostrato” come c’è tra software e hardware in un computer. Più si approfondiscono le complessità del cervello biologico, più ci si rende conto di quanto sia ricco e dinamico, rispetto al silicio.

Anche un singolo neurone è una macchina biologica straordinariamente complessa, occupata a mantenere la propria integrità e a rigenerare le condizioni e le basi materiali per la propria continua esistenza. (Questo processo è chiamato autopoiesi, dal greco “autoproduzione”. L’autopoiesi è probabilmente una caratteristica distintiva dei sistemi viventi).

A differenza dei computer, anche dei computer che eseguono algoritmi di reti neurali, i cervelli sono il tipo di cose per cui è difficile, e probabilmente impossibile, separare ciò che fanno da ciò che sono.

Non c’è alcuna buona ragione per aspettarsi una tale netta separazione. La divisione netta tra software e hardware nei computer moderni è imposta dal design umano, seguendo i principi di Turing. L’evoluzione biologica opera sotto vincoli e con obiettivi diversi. Dal punto di vista dell’evoluzione, non esiste una pressione selettiva evidente a favore di quel tipo di separazione totale che consentirebbe la perfetta interoperabilità tra cervelli diversi, come quella di cui godiamo tra computer diversi.

Questo è importante perché l’idea del cervello come macchina di Turing (universale) a base biologica si fonda proprio su questa netta separazione, sull’indipendenza dal substrato che ha motivato in primo luogo la definizione di Turing. Se non si riesce a separare ciò che i cervelli fanno da ciò che sono, il matrimonio inizia a sgretolarsi, e ci sono meno ragioni per pensare al sostrato biologico come a qualcosa che esiste semplicemente per implementare la mente.

Un’altra conseguenza della profonda integrazione dei cervelli reali - una proprietà che i filosofi a volte chiamano “radicamento generativo” - è che non si può assumere che sia possibile sostituire un singolo neurone biologico con un equivalente in silicio, mantenendo perfettamente preservata la sua funzione, il suo comportamento input-output.

Ad esempio, i neuroscienziati Chaitanya Chintaluri e Tim Vogels hanno scoperto che alcuni neuroni emettono picchi di attività apparentemente per eliminare i prodotti di scarto creati dal metabolismo. Inventare un sostituto in silicio perfetto per questi neuroni richiederebbe inventare anche un intero nuovo metabolismo basato sul silicio, il che semplicemente non è il tipo di cosa per cui il silicio è adatto. L’unico modo per sostituire perfettamente un neurone biologico è con un altro neurone biologico.

Questo rivela la debolezza del popolare esperimento mentale della “sostituzione neuronale”, più comunemente associato a Chalmers, che ci invita a immaginare di sostituire progressivamente parti del cervello con equivalenti in silicio che funzionano esattamente nello stesso modo dei loro omologhi biologici. La presunta conclusione è che proprietà come cognizione e coscienza debbano essere indipendenti dal substrato. Questo esperimento mentale è diventato un topos prominente nelle discussioni sulla coscienza artificiale, di solito invocato per sostenere la sua possibilità. Hinton ha recentemente affermato in un’intervista che l’AI cosciente era già tra noi. Ma l’argomento fallisce al suo primo ostacolo, data l’impossibilità di sostituire qualsiasi parte del cervello con un equivalente perfetto in silicio.

C’è un’altra conseguenza che vale la pena menzionare. I computer digitali e i cervelli differiscono fondamentalmente nel loro rapporto con il tempo. Nel “mondo di Turing”, conta solo la sequenza: da A a B, da 0 a 1. Potrebbe esserci un microsecondo o un milione di anni tra qualsiasi transizione di stato, e sarebbe comunque lo stesso algoritmo, lo stesso calcolo.

Al contrario, per i cervelli e per i sistemi biologici in generale, il tempo è fisico, continuo e inesorabile. Questo significa che l’attività neurobiologica è radicata nel tempo continuo in modi che gli algoritmi, per loro stessa natura, non sono.

Inoltre, molti ricercatori - soprattutto quelli della tradizione fenomenologica - hanno a lungo sottolineato che l’esperienza cosciente stessa è riccamente dinamica e intrinsecamente temporale.

Le metafore, in definitiva, sono solo metafore, e - come il filosofo Alfred North Whitehead ha sottolineato molto tempo fa - è sempre pericoloso confondere una metafora con la cosa stessa. Guardare il cervello attraverso gli “occhiali di Turing” sottostima la sua ricchezza biologica e sovrastima la flessibilità del substrato. Il cervello non è una macchina di Turing fatta di carne.

2. Altre teorie

Gli algoritmi di Turing sono potenti, ma ci sono molti tipi di dinamiche, molte altre tipologie di funzioni, che vanno oltre questo tipo di calcolo. Turing stesso ha identificato varie funzioni non calcolabili, come il famoso problema dell’arresto, che è il problema di determinare, in generale, se un algoritmo, dato un input specifico, si fermerà mai. Inoltre, qualsiasi funzione che sia continua (infinitamente divisibile) o stocastica (che comporti una casualità intrinseca), in senso stretto, esula dall’ambito di competenza di Turing. (I calcoli di Turing possono approssimare o simulare queste proprietà in misura variabile, ma ciò è diverso dall’affermazione che tali funzioni siano calcoli di Turing).

I sistemi biologici sono pieni di dinamiche continue e stocastiche, e sono profondamente radicati nel tempo. Sembra quantomeno presuntuoso supporre che solo i processi di calcolo abbiano rilevanza per la coscienza, o per molti altri aspetti della cognizione e della mente. I campi elettromagnetici, il flusso dei neurotrasmettitori e molti altri fattori ancora - tutti questi elementi esulano dai confini dell’algoritmico, e ciascuno di essi potrebbe rivelarsi determinante per la coscienza.

Questi limiti ci incoraggiano a prendere una visione più ampia del cervello, andando oltre ciò che a volte chiamo “mondo di Turing” per valutare in che modo forme più ampie di calcolo e dinamiche possano contribuire a spiegare il funzionamento del cervello.

Recentemente, c’è stata una rinascita del calcolo neuromorfico, che sfrutta proprietà più dettagliate dei sistemi neurali, come il tempismo preciso degli impulsi neuronali, rispetto ai neuroni simulati che dominano gli attuali approcci delle reti neurali artificiali. E poi c’è il concetto relativamente nuovo di “calcolo mortale” (introdotto da Hinton), che sottolinea il potenziale risparmio energetico offerto dallo sviluppo di algoritmi inseparabilmente legati ai loro substrati materiali, in modo che (metaforicamente) muoiano quando la loro implementazione particolare cessa di esistere. Tutte queste forme alternative di calcolo sono più strettamente legate alla loro base materiale rispetto al calcolo digitale standard.

Il ramo della scienza cognitiva generalmente noto come “sistemi dinamici” respinge l’idea che mente e cervello possano essere spiegati esaustivamente in modo algoritmico. È almeno plausibile che quegli aspetti della funzione cerebrale necessari per la coscienza dipendano anche da processi non computazionali, o forse da una nozione più ampia di calcolo.

Queste altre teorie sono tutte ancora compatibili con ciò che in filosofia è noto come funzionalismo: l’idea che le proprietà della mente (inclusa la coscienza) dipendano dall’organizzazione funzionale del cervello. Uno dei fattori che contribuiscono alla confusione in questo ambito è stata la tendenza a confondere la posizione piuttosto liberale del funzionalismo in generale con l’affermazione molto specifica del funzionalismo computazionale, che implica che il tipo di organizzazione che conta è quella computazionale.

La sfida per la coscienza artificiale in questo caso è che più ci allontaniamo dal mondo di Turing, più rimaniamo profondamente invischiati nella casualità, nella dinamica e nell’entropia, e più siamo legati alle proprietà di un particolare substrato materiale. La questione non riguarda più quali algoritmi diano origine alla coscienza; riguarda piuttosto quanto un sistema debba assomigliare al cervello per aumentare il proprio potenziale di essere cosciente.

3. L’importanza della vita

Il mio terzo argomento è che la vita (probabilmente) conta. Questa è l’idea - chiamata naturalismo biologico dal filosofo John Searle - che le proprietà della vita siano necessarie, anche se non necessariamente sufficienti, per la coscienza. Devo ammettere fin da subito che non ho un argomento risolutivo a sostegno di questa posizione, né penso che un argomento del genere esista ancora. Ma vale la pena prenderla sul serio, se non altro per la semplice ragione menzionata in precedenza: ogni candidato alla coscienza che la maggior parte delle persone attualmente concorda nel considerare effettivamente cosciente è anche vivo.

Perché la vita potrebbe essere importante per la coscienza? Ci sarebbe molto altro da dire su questo argomento, più di quanto possa stare in questo saggio, ma un modo per affrontarlo è il seguente.

Il punto di partenza è l’idea che ciò che percepiamo coscientemente dipenda dalle migliori ipotesi del cervello su ciò che sta accadendo nel mondo, piuttosto che da una lettura diretta degli input sensoriali. Questo deriva dalle influenti teorie di elaborazione predittiva, secondo le quali il cervello interpreta continuamente gli stimoli sensoriali aggiornando le previsioni sulle loro cause. In questa visione, i segnali sensoriali sono interpretati come errori di previsione, che segnalano la differenza tra ciò che il cervello si aspetta e ciò che riceve a ogni livello delle sue gerarchie percettive.

L’esperienza cosciente, in questa ottica, è una sorta di allucinazione controllata: un’inferenza percettiva dall’alto verso il basso e dall’interno verso l’esterno, in cui le previsioni del cervello su ciò che sta accadendo vengono continuamente calibrate dai segnali sensoriali.

Questo tipo di “ipotesi percettiva” è alla base non solo delle esperienze del mondo, ma anche delle esperienze di essere un sé, cioè delle esperienze di essere il soggetto dell’esperienza. Un buon esempio è come percepiamo il corpo, sia come oggetto nel mondo sia come fonte di aspetti più fondamentali dell’identità personale, quali le emozioni e lo stato d’animo.

Le previsioni percettive sono utili non solo per capire cosa sta succedendo, ma anche per il controllo e la regolazione: quando puoi prevedere qualcosa, puoi anche controllarla. Questo perché il compito principale di qualsiasi cervello è quello di mantenere in vita il proprio corpo, di mantenere i parametri fisiologici come la frequenza cardiaca e l’ossigenazione del sangue ai livelli necessari.

In primo luogo, intravediamo i barlumi di una connessione esplicativa tra vita e coscienza. Le esperienze coscienti di emozione, umore e persino la sensazione basilare di essere vivi si sovrappongono perfettamente alle previsioni percettive coinvolte nel controllo e nella regolazione delle condizioni corporee. In secondo luogo, i processi alla base di queste previsioni percettive sono profondamente, e forse inestricabilmente, radicati nella nostra natura di sistemi biologici. E in terzo luogo, tutto questo è non computazionale, o almeno non algoritmico. La minimizzazione dell’errore di previsione nei cervelli e nei corpi reali è un processo dinamico continuo che è probabilmente inseparabile dalla sua base materiale.

Mettendo tutto insieme, emerge un quadro: esperiamo il mondo intorno a noi e noi stessi al suo interno con, attraverso e grazie ai nostri corpi viventi.

4. La simulazione non è istanziazione

Infine, la simulazione non è istanziazione. Una delle capacità più potenti delle macchine di Turing universali è che possono simulare una vastissima gamma di fenomeni, anche e soprattutto fenomeni che non sono essi stessi (digitalmente) computazionali, come processi continui e casuali.

Ma non dobbiamo confondere il modello con il meccanismo. Una simulazione algoritmica di un processo continuo è solo questo: una simulazione, non il processo stesso.

Le simulazioni computazionali generalmente mancano delle proprietà intrinseche delle cose che simulano. Una simulazione del sistema digestivo non digerisce effettivamente nulla. Una simulazione di un temporale non bagna nulla. Se simuliamo una creatura vivente, non abbiamo creato la vita. In generale, una simulazione computazionale di X non porta X all’esistenza - non istanzia X - a meno che X non sia esso stesso un processo computazionale (specificamente, un algoritmo). Guardando la questione da un’altra prospettiva, il fatto che X possa essere simulato computazionalmente non giustifica la conclusione che X sia esso stesso computazionale.

Nella maggior parte dei casi, la distinzione tra simulazione e istanziazione è ovvia e non controversa. Dovrebbe essere ovvia e non controversa anche per la coscienza. Una simulazione computazionale del cervello (e del corpo), per quanto dettagliata possa essere, darà origine alla coscienza solo se la coscienza è una questione di calcolo. In altre parole, la prospettiva di istanziare la coscienza attraverso una sorta di simulazione completa del cervello, a un livello di dettaglio arbitrariamente alto, assume già che il funzionalismo computazionale sia vero. Ma come ho argomentato, questa assunzione è probabilmente sbagliata e certamente non dovrebbe essere accettata aprioristicamente.

Probabilmente contano anche altre cose oltre al calcolo.

C’è quindi una sorta di contraddizione in agguato per coloro che investono i propri sogni e il proprio capitale nella prospettiva di trasferire la propria coscienza in simulazioni finemente dettagliate del proprio cervello, in modo da poter esistere per sempre nel silicio. Se occorre un modello cerebrale finemente dettagliato, allora le probabilità che tu esista nella simulazione sono le stesse che ci sia una grandinata all’interno dei computer dell’ufficio meteorologico britannico.

Ma allacciate le cinture. E se tutto fosse già una simulazione? E se il nostro intero universo - inclusi i miliardi di corpi, cervelli e menti su questo pianeta - fosse solo una simulazione computerizzata avanzata?

Questa è l’ipotesi della simulazione, associata più strettamente al filosofo Nick Bostrom, eppure, in qualche modo, un’idea ancora influente tra i tecnocrati.

Bostrom osserva che simulazioni come questa, se fossero state create, dovrebbero essere molto più numerose della “realtà” originale, il che a sua volta suggerisce che è più probabile che noi esistiamo all’interno di una simulazione piuttosto che nella realtà stessa. Egli adduce vari argomenti statistici per sviluppare questa idea. Ma è significativo che egli rilevi un presupposto necessario e poi lo dia semplicemente per scontato. Si tratta, forse non a caso, del presupposto secondo cui “un computer che esegue un programma adeguato sarebbe cosciente”. Se questo presupposto non regge, allora il semplice fatto che siamo coscienti escluderebbe che esistiamo in una simulazione. Il fatto che questo forte presupposto venga accettato senza esame in una discussione filosofica è un’ulteriore indicazione di quanto sia ormai radicata la visione computazionale della mente e del cervello.

Riassumiamo. Molti fattori sociali e psicologici, tra cui alcuni pregiudizi cognitivi ben noti, ci predispongono ad attribuire eccessivamente la coscienza alle macchine.

Il funzionalismo computazionale - l’affermazione secondo cui il calcolo (algoritmico) sia sufficiente per la coscienza - è un presupposto molto forte che appare sempre più vacillante man mano che emergono le numerose e profonde differenze tra il cervello e i computer (digitali standard). Esistono molte altre tecnologie (ad esempio, l’informatica neuromorfica, la biologia sintetica) e modelli per la comprensione del cervello (ad esempio, la teoria dei sistemi dinamici) che vanno oltre il rigorosamente computazionale. In ogni caso, più ci si allontana dal modello di Turing, meno è plausibile che le proprietà rilevanti possano essere astratte dalla loro base materiale sottostante.

Una possibilità, è che la coscienza sia profondamente legata alla nostra natura di creature biologiche e viventi.

Infine, simulare computazionalmente i meccanismi biologici della coscienza, a qualunque livello di dettaglio si scelga, non darà origine alla coscienza a meno che il funzionalismo computazionale non si riveli comunque vero.

Se considerate nel loro insieme, queste argomentazioni si completano e si rafforzano a vicenda. Nel loro insieme, questi argomenti sostengono che è molto improbabile che la coscienza si sviluppi semplicemente di conseguenza man mano che l’IA diventa più intelligente, e che raggiungerla potrebbe benissimo essere impossibile per i sistemi di IA in generale, almeno per i computer digitali che conosciamo.

Allo stesso tempo, nulla di ciò che ho detto esclude del tutto la possibilità di una coscienza artificiale.

Alla luce di tutto ciò, cosa dovremmo fare?

Cosa (non) fare?

Riflettere con chiarezza sulle prospettive di una vera coscienza artificiale è di vitale importanza. Ho argomentato contro l’IA cosciente, ma potrei sbagliarmi. La posizione del naturalismo biologico (sia nella mia versione che in qualsiasi altra) rimane un’opinione minoritaria.

Tutte le teorie della coscienza sono piene di incertezze, e chiunque affermi di sapere con certezza cosa servirebbe per creare una vera coscienza artificiale, o con certezza cosa servirebbe per evitare di farlo, sta oltrepassando i limiti di ciò che si può ragionevolmente affermare.

Questa incertezza ci pone in una posizione difficile. Per quanto possa sembrare ridondante, nessuno dovrebbe cercare deliberatamente di creare un’IA cosciente, né al servizio di una sorta di “estasi tecnologica”, né per qualsiasi altra ragione. Creare macchine coscienti sarebbe un disastro etico. Introdurremmo nel mondo nuovi soggetti morali e, con essi, il potenziale per nuove forme di sofferenza. E se concedessimo diritti a questi sistemi, come probabilmente dovremmo fare se fossero davvero coscienti, ostacoleremmo la nostra capacità di controllarli o di spegnerli se necessario.

Anche se avessi ragione nel ritenere che i computer digitali non siano all’altezza del compito, altre tecnologie emergenti potrebbero esserlo, che si tratti di forme alternative di calcolo (analogico, neuromorfico, biologico e così via) o di metodi in rapido sviluppo nella biologia sintetica. A mio avviso, dovremmo preoccuparci di più dell’emergere accidentale della coscienza che di qualsiasi nuova ondata di LLM.

Ma le nostre preoccupazioni non si fermano qui. Quando si tratta dell’impatto dell’IA sulla società, è essenziale distinguere tra i sistemi di IA che sono effettivamente coscienti e quelli che sembrano coscienti ma che, in realtà, non lo sono. Mentre c’è un’inevitabile incertezza riguardo ai primi, i sistemi che sembrano coscienti sono molto, molto più vicini.

Come ha dimostrato l’ingegnere di Google Lemoine, per alcuni di noi tali sistemi che sembrano coscienti sono già una realtà. Le macchine che sembrano coscienti sollevano gravi questioni etiche, distinte da quelle poste dalle macchine effettivamente coscienti.

Ad esempio, potremmo attribuire ai sistemi di IA “diritti” di cui in realtà non hanno bisogno, poiché non sarebbero effettivamente coscienti, limitando così la nostra capacità di controllarli senza una valida ragione.

Inoltre, poiché non c’è consenso sulle condizioni necessarie o sufficienti per la coscienza, non esistono test definitivi per stabilire se un’IA sia effettivamente cosciente. La trama di “Ex Machina” attorno a questo dilemma. Ispirandosi al famoso test di Turing (che, come Turing ben sapeva, verifica l’intelligenza artificiale, non la coscienza), Nathan - il creatore del robot - afferma che il “vero test” per rivelare che la sua creazione è una macchina e vedere se Caleb continua a ritenere che essa, o lei, sia cosciente. Non è un test della coscienza della macchina in sé. È un test di ciò che serve affinché un essere umano sia convinto che una macchina sia cosciente.

L’importanza di assumere una posizione etica consapevole nonostante tutte queste incertezze mette in luce un’altra abitudine umana: la nostra spiacevole tendenza a negare lo status morale a chi lo merita, compresi molti animali non umani e, talvolta, altri esseri umani.

Ma ci sono buone ragioni per cui la situazione con l’IA potrebbe essere diversa. I nostri pregiudizi psicologici sono più inclini a portare a falsi positivi che a falsi negativi. Rispetto agli animali non umani, le apparenti meraviglie dell’IA potrebbero essere più simili a noi in aspetti che non contano per la coscienza, come l’abilità linguistica, e meno simili in aspetti che invece contano, come l’essere vivi.

Conclusione

Non c’è dubbio che l’AI stia trasformando la società. Sarà già abbastanza difficile affrontare le sfide che l’AI pone, e trarre il giusto vantaggio dai suoi molti benefici, senza l’ulteriore confusione generata da dichiarazioni smodate su un’era imminente di macchine coscienti. Dato il ritmo del cambiamento sia nella tecnologia stessa che nella sua percezione pubblica, sviluppare una visione chiara delle prospettive e delle insidie dell’IA cosciente è sia essenziale che urgente.

Un’AI realmente cosciente cambierebbe tutto - e in peggio. Le illusioni di un’IA cosciente sono pericolose a modo loro, specialmente se siamo costantemente distratti e affascinati dal richiamo di macchine realmente senzienti. La mia speranza per questo saggio è che offra alcuni strumenti per riflettere su queste sfide, alcune difese contro affermazioni troppo sicure riguardo all’inevitabilità o alla totale impossibilità, e un po’ di speranza per la nostra natura umana, animale e biologica. E speranza anche per il nostro futuro.

La storia futura dell’AI non è ancora stata scritta. Non c’è inevitabilità nelle direzioni che l’AI potrebbe ancora prendere.