L’intelligenza artificiale non può sostituirci

La mente umana è molto più di un semplice intreccio di materia e impulsi elettrici: è il risultato di miliardi di anni di evoluzione e di relazioni profonde tra corpo e coscienza. Oggi i computer inseguono la nostra complessità, ma rimangono soltanto imitatori, lontani dall’essere ciò che siamo realmente.

Chi sogna l’upload della mente nel cloud dimentica che le nostre esperienze, radicate nel corpo biologico, non possono essere trasferite né replicate da algoritmi. L’illusione di una continuità digitale è solo fantascienza, perché il sé umano si nutre di storia, sensi e presenza autentica.

Per quanto le macchine si affinino, la loro intelligenza resta una copia priva di esserci. La vera mente non si simula: si vive. Questi i temi approfonditi in questo nuovo post, scoprendo perché l’AI, per quanto potente, non potrà mai sostituire ciò che ci rende umani.

I computer di oggi, per quanto sofisticati e complessi possano essere il loro hardware e il loro software, o i robot, non possono avere esperienze: e domani?

In questa domanda vi sono questioni connesse che hanno attinenza con i sistemi di intelligenza artificiale (AI), aspetti molteplici, in sistemi ove si suppone esista una mente non all'interno di un corpo nel modo consueto, un corpo biologico, ma «realizzata» come un pattern[1] di interazioni, grazie ad un programma per computer. Vengono subito in mente i tentativi di quella che è chiamata AI «forte»: ovvero la capacità di un agente intelligente di apprendere e capire un qualsiasi compito intellettuale che può imparare un essere umano. Programmi per computer messi a punto non solo perché si comportino o risolvano problemi come farebbe qualcuno dotato di una mente ma programmi che, quando sono eseguiti, sono ritenuti essere una mente.

Ma se una mente potesse esistere nel pattern di interazioni di un software, potremmo inoltre aspettarci, un giorno, di essere in grado di caricarne alcuni - magari la nostra stessa mente - da qualche parte nel cloud. Visto che in tale scenario saranno necessari dei computer, una mente allora, potrebbe essere spostata o muoversi – anche deliberatamente? - da computer a computer, proprio come oggi fanno le informazioni all'interno di uno stesso cloud o tra cloud diversi. E quindi, benché esistano soltanto in corpi localizzati, dopo il caricamento i nostri pensieri e le nostre esperienze potrebbero schizzare da una macchina all'altra.

Ad oggi, e forse mai, come vedremo, non è possibile creare una mente programmando una serie di interazioni in un computer, nemmeno nel caso si disponga di macchine molto complesse che prendano a modello le operazioni dei nostri cervelli. Anche se attualmente dietro a molti progetti di AI ci sono opinioni contrarie, spesso piuttosto folkloristiche o addirittura fantascientifiche, ritengo che nessun sistema informatico potrà mai essere una mente, e quindi dotato di senzienza[2] o coscienza che sia.

Illustrazione schematica di un neurone biologico e di uno artificiale

Dietro queste convinzioni, soprattutto a supporto degli enormi interessi economici che esistono nel mercato dell’AI, c'è l'idea che tali elementi esistano in schemi di interazione e attività di vario genere. Ovviamente pattern come questi sono presenti nel nostro come in altri cervelli, ma - dicono i sostenitori dell’AI forte - potrebbero esistere, identici, anche in altri dispositivi fisici. Pur essendo lecito e condivisibile sostenere che esistano elementi dovuti a pattern di attività questi, però, sono molto meno «esportabili» di quanto spesso si supponga, essendo strettamente legati ad un particolare tipo di base fisica e biologica di cui, tra l’altro, molto poco ancora si sa soprattutto per quanto riguarda l’integrazione degli elementi che concorrono al complesso schema di attività.

Una frequente obiezione è che in questi programmi per computer si potrebbe riuscire a rappresentare un pattern di interazioni del tipo osservato nel cervello; ma ciò non equivale affatto ad avere quelle interazioni presenti nel computer. Sono semplicemente codificate, scritte, e tutto ciò non è sufficiente; e a molto poco serve sapere che i sostenitori dell’AI liquidino questa obiezione troppo facilmente.

Esistono tuttavia alcuni tipi di attività, legati a quello che fanno i nostri cervelli, che potrebbero avere una esistenza reale in un computer senza troppa difficoltà.

Supponiamo che un cervello sia semplicemente una rete di segnalazione e commutazione, nella quale il neurone A innesca la scarica dei neuroni B e C, il neurone C influenza D, E ed F, e così via. E supponiamo che questo sia tutto. Allora potrebbe darsi - fintanto che in un computer qualcosa svolge il ruolo di A (influenzando B e C), qualcos'altro svolge il ruolo di B, eccetera - che vi sia tutto quanto occorre; in tal caso il pattern di attività cerebrale può essere presente, e non soltanto rappresentato, nella macchina.

I neuroni e i cervelli, però, fanno più di questo. L'obiezione secondo cui i programmi di AI si limiterebbero a rappresentare quello che fanno i cervelli senza farlo, è molto più seria quando si passa a considerare le proprietà dinamiche su vasta scala dei cervelli. Anche queste dovrebbero essere effettivamente presenti nel computer. Non basterebbe individuare qualche equazione che descriva ad esempio i ritmi e le onde che si osservano negli elettroencefalogrammi (e molto altro), e poi eseguire quelle equazioni nella macchina. La macchina deve effettivamente avere quei pattern presenti al suo interno. Non basta metterci dentro dei pezzi, essi devono essere ciò che fanno.

Se poi l'obiettivo è una mente e non una mente umana, allora non sarebbe necessario che questi pattern fossero esattamente identici a quelli del nostro cervello; potrebbero essere solamente simili.

Ma cosa occorrerebbe per avere qualcosa di simile a questo in una macchina? Pensiamo ad esempio a quelle attività che, nel cervello, danno origine a ritmi, moti ondulatori e campi elettrici, tutte attività misurabili e registrabili. Si tratta dell'alternarsi, a livello delle membrane cellulari, di minuscoli flussi e riflussi di ioni (particelle elettricamente cariche), che si sommano per produrre oscillazioni coordinate in particolari regioni del cervello. Anche mettendo da parte i campi, può essere molto difficile avere un sistema con qualcosa di simile ai pattern dinamici del cervello che non sia fisicamente simile a un cervello anche per altri aspetti.

Guardando il quadro complessivo, oltre alla materia che compone un cervello, oltre alle influenze da cellula a cellula, osserviamo anche i ritmi, i campi, gli schemi di attività elettrica modulati dai sensi. Quelle attività possono essere me, i miei pensieri e le mie esperienze, il mio rivivere esperienze passate e il mio immaginare il futuro. Non è così difficile da credere.

I computer di oggi contengono, per così dire, una porzione logica - una minuscola frazione - di quello che ha luogo dentro di noi; sono spesso progettati per creare illusioni di agentività e soggettività, e lo fanno bene. Se partiamo da un dispositivo contenente alcuni processori logici veloci e affidabili, legati a una grande memoria, in una unità stabile alimentata con tutta l'energia necessaria, questo - a prescindere da come sia stato programmato - rimane comunque un oggetto del tutto diverso da un cervello e da un organismo vivente. Forse, in futuro, i sistemi artificiali potranno essere costruiti con materiali diversi e riuscire a eseguire un maggior numero di operazioni simili a quelle del cervello. Il risultato potrebbe essere una sorta di vita artificiale, o almeno, rispetto agli attuali sistemi di AI, qualcosa di più vicino ad essa.

Il problema qui non è l'artificialità, il fatto che i sistemi di AI siano fatti da noi umani e non dall'evoluzione, o almeno non solo: il problema è la necessità che al loro interno abbia luogo il giusto tipo di cose.

Nel campo dell’AI, allora, gli scenari che mi vedono in completo disaccordo sono quelli che evocano possibilità di upload, di caricare una mente da qualche parte in un sistema informatico, nel cloud. L'idea che un programma per computer opportunamente programmato possa avere esperienze come le nostre, e che possa essere una continuazione di noi, è soltanto fantasia. Noi siamo qualcosa di molto diverso da qualsiasi pattern di attività possa vagabondare da un computer all'altro nella «nuvola». E ancora: le macchine future potrebbero essere diverse da quelle attuali, e un giorno la vita artificiale potrebbe realizzarsi. Considerando le tecnologie disponibili oggi però non può esistere un processo che estragga le nostre esperienze dal loro radicamento biologico in un corpo vivente, e le faccia continuare  - in aggiunta a noi – nel cloud.

Gli scenari dell'upload  sono i più improbabili; all'altro estremo dello spettro, troviamo quelli che immaginano un robot futuri dotati di sistemi di controllo autenticamente simili a cervelli. Un giorno, questo potrebbe dar luogo, oltre ad una forma evoluta di AI, anche all'esperienza artificiale. Ma che ciò possa essere quel che comunemente associamo al concetto di mente, quel concetto di esserci, capire appieno la propria vita nel momento in cui accade, non è possibile né immaginabile.

Recentemente ho scritto di AI, di LLM, evidenziando soprattutto i pericoli del grande fraintendimento che è in agguato: la verosimiglianza linguistica che sostituisce la vera valutazione epistemica, dando l'impressione di conoscere senza un reale giudizio ed i processi che comporta, completamente diversi tra uomo e macchina.

Per quanto i circuiti neuronali artificiali, le loro integrazioni, i fenomeni da essi emergenti possano perfezionarsi essi saranno sempre una rappresentazione di ciò che è mente. Non basta rappresentare, occorre esserlo, perché la mente non è conseguenza di quanto accade nella materia di fisico, chimico o biologico, è il suo fare a renderla tale.

E uno dei motivi che impediranno che un cervello possa essere replicato, clonato o scaricato da qualche parte su un ipotetico cloud – separando corpo e mente in un beffardo ritorno del dualismo cartesiano - è soprattutto questo: la coscienza, il sé, hanno 3,5 miliardi e passa di anni di evoluzione dietro.

Le macchine e il loro software no.

Addendum

Ad oggi, inoltre, i tentativi di imitazione del comportamento umano, falliscono miseramente. Proprio in questi giorni si parla molto di Moltbook, presentato come un «social network per intelligenze artificiali». E, puntualmente, sono ricominciati deliri e supercazzole: coscienza emergente, macchine che si parlano, macchine alla ricerca di eusocialità! Ma questa dinamica non è nuova e, soprattutto, non è misteriosa. È qualcosa di già studiato e pubblicato. Per i dettagli rimando allo studio del Prof. Walter Quattrociocchi e dei suoi colleghi. Per molti qualcosa come Moltbook è affascinante: rende visibile un fenomeno che diventerà sempre più centrale man mano che deleghiamo le interazioni sociali a sistemi generativi. E’ epistemia pura: ma scambiare questa dinamica per un segnale di vita o di intelligenza è un errore di categoria.

No, le AI non stanno evolvendo verso un qualsiasi grado di socialità, ma nemmeno quello delle formiche o delle api. Quando il linguaggio si sgancia dal mondo e parla solo con se stesso, la distorsione che ne deriva non è un errore, ma è la dinamica naturale del sistema.

Un’ultima considerazione. Le esperienze di cervello diviso sono ormai note e la callosotomia, ovvero la resezione chirurgica del corpo calloso nei casi di epilessia grave, è pratica consolidata. Ebbene, riuscite a immaginare che coloro i quali hanno subito una così drastica pratica, sono per lo più asintomatici, con una vita pressoché normale? Ci sono ovviamente altri che invece possono presentare disabilità di vario tipo. E adesso, riuscite a immaginare un computer il cui flusso di informazioni e attività sia tagliato fisicamente, interrompendolo, da qualche parte?

---

[1] Il termine sarà usato spesso: lo si intenda nel suo senso più generico di schemi e processi regolari.
[2] Il filosofo della scienza Peter Godfrey-Smith usa senzienza per evitare l’uso forse troppo ampio di coscienza. Si riferisce alla cosiddetta esperienza esperita, un’idea assai ampia di esperienza sentita o provata.