Lo storico e scrittore Yuval Noah Harari esplora l’impatto trasformativo dell’intelligenza artificiale, sostenendo che non debba essere vista semplicemente come uno strumento, bensì come un agente capace di apprendere, creare e prendere decisioni. Harari spiega come l’IA sia pronta ad “hackerare” il codice della civiltà umana padroneggiando il linguaggio, la burocrazia e i sistemi di generazione della fiducia che storicamente sono stati di esclusivo dominio umano. Infine, invita gli ascoltatori a riflettere sulle profonde implicazioni di un futuro in cui l’IA influenzerà ogni cosa, dall’intimità personale alla governance globale, esortando l’umanità a esplorare la coscienza al di là del linguaggio per preservare la propria capacità di agire.

Di Yuval Noah Harari, Dipartimento di Storia dell’Università Ebraica di Gerusalemme

La cosa più importante da comprendere sull’IA è che non è uno strumento. Non è un utensile nelle nostre mani. È un agente con le proprie mani.

Che cos’è esattamente l’autonomia d’azione (agency)? In cosa un agente differisce da uno strumento? Gli agenti possiedono diverse caratteristiche distintive. Non hanno necessariamente bisogno di coscienza. Non serve la coscienza per essere un agente. Ciò che serve è la capacità di prendere decisioni in autonomia, la capacità di inventare cose nuove e nuove idee da soli. Un agente deve essere in grado di apprendere autonomamente nozioni ignote persino ai suoi creatori, e deve potersi trasformare da solo in modi che i suoi costruttori non hanno previsto.

Una bomba atomica, per esempio, nonostante la sua enorme potenza, non è un agente. Non può imparare o cambiare da sola. Non può decidere autonomamente quale città bombardare. Non può inventare nulla di nuovo come la bomba all’idrogeno. Allo stesso modo, una macchina da caffè automatica non è un agente, sebbene compia alcune azioni in autonomia: premi un pulsante e la macchina eroga automaticamente una tazza di caffè. Ma quella macchina esegue soltanto una procedura pre-programmata: non cambia, non apprende nulla di nuovo e non crea nulla.

La macchina da caffè con IA: un esperimento mentale

Supponiamo invece che, mentre vi avvicinate alla macchina da caffè e prima ancora di toccare qualsiasi tasto, essa vi dica: «Ti ho osservato nelle ultime settimane e, in base a tutto ciò che ho appreso su di te e sulle altre persone, oltre che dall’espressione del tuo viso e dall’ora del giorno, prevedo che vorresti un espresso. Perciò te ne ho già preparata una tazza.»

Ecco: quella è una macchina da caffè dotata di IA. Ha appreso qualcosa da sola e ha preso una decisione autonomamente. E si tratta a tutti gli effetti di IA se il giorno seguente vi comunica: «Ho inventato una nuova bevanda chiamata ‘best presso’, che secondo me apprezzerai più dell’espresso: assaggiala, te ne ho fatta una tazza.» A quel punto è davvero un’IA: si è trasformata in un modo non anticipato dai creatori e ha generato qualcosa di interamente inedito.

Per quanto ne so, al momento non esistono macchine da caffè del genere sul mercato. Forse nei quartieri generali di Anthropic o di Google hanno qualche prototipo, ma non sono ancora in commercio.

L’autonomia dell’IA in ambiti specifici: l’esempio degli scacchi

Tuttavia, in settori circoscritti come il gioco del Go o degli scacchi, la capacità d’azione e la creatività dell’IA superano già di gran lunga quelle umane. I maestri di scacchi digitali basati su IA decidono autonomamente quali mosse compiere. Inventano da soli strategie del tutto nuove su come giocare a scacchi, strategie mai concepite dai maestri umani in migliaia di anni di storia del gioco. E nel farlo, apprendono ed evolvono secondo traiettorie non previste dai loro costruttori. Oggi, com’è noto, nessun essere umano ha alcuna possibilità di battere un’IA negli scacchi.

Chi sminuisce la portata della rivoluzione dell’IA tende a liquidare l’esempio degli scacchi sostenendo che la scacchiera sia un ambiente estremamente ristretto e artificiale ideato dagli umani. I critici affermano che l’autonomia dell’IA rimarrà confinata a contesti altrettanto chiusi e artificiali, il che implicherebbe che non sia vera autonomia e che non costituisca un rischio per l’umanità: l’IA potrà pure dominare la scacchiera, ma non dominerà mai il pianeta Terra.

E in effetti, proviamo a fare un esperimento: se prendiamo il più potente maestro scacchistico IA e lo abbandoniamo nella giungla, cosa pensate che accadrà?

L’IA e le nicchie di intelligenza

L’IA scacchistica non sarà in grado di estrarre ferro, costruire fabbriche o creare un esercito di robot per conquistare il mondo. Nei fatti, non potrà fare assolutamente nulla senza l’elettricità fornita dalle centrali costruite dagli esseri umani. L’IA risulterà totalmente inerme. Di conseguenza, l’argomentazione conclude che le IA non sono veri agenti, poiché vincolate a nicchie artificiali ristrette create da qualcun altro (gli umani).

Il problema è che questo ragionamento si applica a qualsiasi forma nota di intelligenza. Anche l’intelligenza umana opera unicamente all’interno di un ecosistema relativamente ristretto costruito da altri. Se mi lasciaste da solo su Marte, sarebbe esattamente come abbandonare un’IA scacchistica nella giungla: morirei nel giro di pochi secondi. La mia intelligenza può sopravvivere e funzionare solo all’interno dell’ecosistema specifico che alberi, batteri, insetti e altri organismi hanno edificato sulla Terra nel corso di quattro miliardi di anni di evoluzione.

Questo vale per qualsiasi agente conosciuto: tutti hanno la propria nicchia. I pesci vivono in oceani che non hanno creato; le scimmie vivono in foreste che non hanno creato; tutti i mammiferi, umani inclusi, vivono in un’atmosfera ricca di ossigeno che non hanno creato.

La Grande Ossidazione

Fino a circa 2,4 miliardi di anni fa, l’atmosfera terrestre conteneva pochissimo ossigeno e, per gran parte degli organismi dell’epoca, l’ossigeno rappresentava un veleno mortale. Poi, attraverso un processo durato centinaia di milioni di anni noto come la Grande Ossidazione (Great Oxygenation Event), vari microbi primordiali iniziarono a contaminare l’atmosfera terrestre con ossigeno letale, sottoprodotto dei loro processi fotosintetici.

Man mano che l’atmosfera si saturava di questo gas velenoso, innumerevoli specie arcaiche si estinsero. Alcune specie, tuttavia, riuscirono a sopravvivere e ad adattarsi alle nuove condizioni. Col tempo, molti di questi superstiti passarono dal rigettare l’ossigeno a dipenderne totalmente per la sopravvivenza. I nostri antenati rientrano tra le specie che hanno compiuto questa transizione, e noi viviamo ancora oggi in questo ambiente artificiale ricco di ossigeno originariamente generato da quegli antichi microbi.

Un nuovo ambiente artificiale: dati, linguaggio e burocrazia

La tesi che intendo sostenere in questa conferenza è che potremmo trovarci di fronte a un momento analogo nell’evoluzione della vita. Nel corso degli ultimi millenni, noi esseri umani abbiamo saturato l’atmosfera con qualcosa che alla fine potrebbe rivelarsi letale per la maggior parte degli organismi, compreso forse l’Homo sapiens, ma che crea un nuovo habitat artificiale in cui le IA prosperano. E non mi riferisco alla CO₂. Mi riferisco ai dati, alla burocrazia e, in definitiva, a ciò che sto emettendo dalla mia bocca in questo momento: le parole, i token linguistici.

In migliaia di anni, noi umani abbiamo trasformato il pianeta da un ambiente privo di linguaggio a un ambiente altamente artificiale, saturo di token linguistici, dati e burocrazia. Questo ambiente potrebbe rivelarsi letale per la maggior parte degli organismi, ma estremamente favorevole allo sviluppo dell’IA. Perché, esattamente come i pesci vivono negli oceani e le scimmie nelle foreste, le IA vivono nelle burocrazie.

Dedichiamo dunque qualche minuto a parlare della burocrazia, per poi tornare a ciò che ne sta alla base: il linguaggio e le parole.

Come gli umani hanno conquistato il mondo attraverso la cooperazione

Gli esseri umani hanno conquistato il mondo imparando a cooperare in grandissimo numero. A livello individuale, gli umani non sono più forti né più intelligenti degli altri animali. In uno scontro corpo a corpo, un umano perderebbe molto probabilmente contro uno scimpanzé, un leone o un elefante. Tuttavia, in una contesa tra un milione di umani e un milione di scimpanzé, gli umani vincono con facilità perché sanno cooperare e gli scimpanzé no. Ed è per questo che controlliamo il mondo.

Come riescono a cooperare un milione di esseri umani che non si conoscono tra loro? Gli scimpanzé cooperano sulla base della conoscenza personale diretta. Gli umani fanno lo stesso in piccoli gruppi, ma è impossibile conoscere un milione di individui. Quindi, come cooperano un milione di persone? Di solito costruendo un apparato burocratico: un sistema legale, il sistema finanziario, le chiese, gli stati o le università. E che cosa fanno concretamente queste strutture burocratiche?

Il mestiere di costruire fiducia

Quando un funzionario governativo, un vescovo, un rabbino, un contabile, un avvocato o un banchiere va al lavoro la mattina, cosa fa tutto il giorno? I falegnami costruiscono tavoli. Gli ingegneri costruiscono ponti. Che cosa costruiscono i banchieri e gli altri burocrati?

Ebbene, i banchieri e gli altri burocrati trascorrono l’intera giornata a costruire fiducia. Il loro compito è generare fiducia tra grandi masse di sconosciuti che non si conoscono personalmente, rendendo possibile la cooperazione su larga scala, che costituisce la base di quasi tutti i traguardi raggiunti dalla nostra specie.

Ad esempio, il mio banchiere, che non conosco personalmente, lavora sodo tutto il giorno per costruire un rapporto di fiducia con me affinché io sia disposto a depositare i miei risparmi nella sua banca. Parallelamente, lavora per costruire fiducia con un imprenditore che necessita di fondi per avviare una nuova impresa, prestando i miei risparmi a quell’imprenditore. In questo modo, il banchiere crea un ponte di fiducia tra me e l’imprenditore. Anche se non ho mai incontrato quell’imprenditore in vita mia, egli può ora utilizzare i miei risparmi per avviare la sua attività.

È questo il senso del sistema finanziario quando funziona correttamente: stabilisce fiducia tra estranei affinché milioni di persone possano unire risorse e talenti in progetti comuni. La storia finanziaria del mondo è la storia dell’invenzione di strumenti sempre più sofisticati per erigere ponti di fiducia.

Il denaro come ponte di fiducia

Il denaro è, in ultima analisi, un ponte di fiducia. L’idea alla base del denaro è che io possa andare al mercato, magari in una città straniera, incontrare una persona mai vista prima, che forse nemmeno parla la mia lingua, e semplicemente consegnandole un pezzo di metallo lucido o un frammento di carta colorata, questa persona mi darà del pane da mangiare. Questo è il ponte di fiducia che il denaro crea.

La moneta e la banconota sono solo il punto di partenza. Nei secoli, l’uomo ha ideato dispositivi finanziari sempre più sofisticati per consolidare la fiducia: assegni, obbligazioni, azioni, ETF, prestiti, mutui e interesse composto. Tutti questi strumenti servono in fondo a costruire fiducia tra miliardi di sconosciuti.

Lo stesso principio governa ogni burocrazia. Vale per il sistema legale: è ciò che gli avvocati dovrebbero fare, creare fiducia. È ciò che fanno funzionari governativi, vescovi e contabili quando si recano al lavoro: il loro compito è generare fiducia.

Intelligenza ristretta in ambienti artificiali

L’elemento fondamentale da rilevare su questi sistemi burocratici è che si tratta di ambienti estremamente artificiali nei quali un’intelligenza relativamente ristretta — spero di non offendere nessuno — specializzata in una nicchia cognitiva limitata è sufficiente a esercitare un impatto gigantesco sul mondo. Un avvocato, un banchiere o un funzionario che non sa nemmeno come impugnare un’ascia o un martello può comunque radere al suolo intere foreste e costruire intere città semplicemente spostando dati e documenti da un punto all’altro all’interno della rete burocratica.

Se togliete l’avvocato dalla burocrazia e lo gettate nella giungla caotica e priva di strutture, le sue competenze legali non varranno nulla e soccomberà davanti a uno scimpanzé, un leone o un elefante. Ma noi abbiamo già imposto i nostri sistemi burocratici sopra la giungla: per questo gli avvocati sono molto più potenti di qualsiasi fiera. Se prendeste tutti i leoni del mondo e li metteste a competere contro un singolo ottimo avvocato, scommetterei sull’avvocato.

Oggi la sopravvivenza stessa di specie come i leoni dipende da avvocati, contabili e banchieri che movimentano documenti nei labirinti burocratici di governi, banche e multinazionali.

Le IA come burocrati nativi

È questo l’ambiente in cui l’IA sta acquisendo autonomia d’azione. Se gettate un’IA nella giungla selvaggia, non sarà in grado di estrarre ferro o allestire un esercito robotico. Ma all’interno dei sistemi burocratici che gli esseri umani hanno già edificato e imposto al mondo, le IA sono destinate a esercitare un potere immenso, perché — a differenza di noi — sono burocrati nativi.

I burocrati IA stanno assumendo il controllo delle decisioni umane

Nessun avvocato può ricordare tutte le leggi e i regolamenti del Regno Unito; un’IA può farlo. Nessun contabile può ricordare tutte le transazioni di una multinazionale o di una banca; un’IA può farlo. Nessun vescovo può ricordare l’intero diritto canonico e tutti i testi scritti dai teologi cristiani negli ultimi 2.000 anni. Un’IA può farlo con estrema facilità.

Così, nei prossimi anni, milioni di burocrati IA assumeranno sempre più il controllo delle burocrazie mondiali e prenderanno decisioni non solo sui leoni e sugli scimpanzé, ma sulle nostre stesse vite. Banchieri IA decideranno se concedervi un prestito. Dirigenti scolastici IA decideranno se ammettervi all’università. Giudici IA decideranno se mandarvi in prigione. Teologi IA decideranno se potete abortire. IA aziendali decideranno se offrirvi un lavoro. E IA militari decideranno se bombardare la vostra casa.

Ora, lasciamo da parte per un momento la domanda: è un bene o un male? La prima cosa da fare è semplicemente rendersi conto della portata del cambiamento che ci attende. Questi milioni, o addirittura miliardi, di IA trasformeranno presto tutti i sistemi che mandano avanti il mondo.

L’algoritmo dei social media: un monito dalla storia

Abbiamo già alcuni esempi concreti di come ciò avvenga e di quali possano essere le conseguenze. Forse l’esempio migliore finora è la storia dei social media e dei loro algoritmi. I social media non sono gestiti da esseri umani, ma da algoritmi. Sono algoritmi — ovvero IA primitive — a decidere e a controllare la circolazione delle informazioni sulle piattaforme. Questo è iniziato 10 o 15 anni fa: era la prima generazione di IA, estremamente primitiva, stupida e ristretta, che ha tuttavia cambiato del tutto il mondo.

Agli algoritmi dei social media, aziende come Facebook, TikTok e X hanno assegnato un obiettivo estremamente ristretto: massimizzare il coinvolgimento degli utenti (engagement). Fare in modo che le persone trascorrano più tempo sulla piattaforma, perché più tempo vi passano, più denaro incassa l’azienda. Molto semplice, molto circoscritto.

Nel perseguire questo coinvolgimento, queste IA primitive hanno fatto una scoperta fondamentale. Hanno condotto esperimenti su miliardi di cavie umane e hanno imparato che la via più semplice per catturare l’attenzione di un essere umano e incollarlo allo schermo è premere i tasti dell’odio, della paura o dell’avidità nella sua mente. Hanno imparato come farlo. E hanno iniziato a diffondere odio, paura e avidità in enormi quantità nella sfera dell’informazione. Questa è stata una causa primaria — non l’unica, ma una fondamentale — dell’attuale epidemia di teorie del complotto, notizie false e disordini sociali che minano le società in tutto il mondo.

Questi algoritmi, ripeto, sono IA molto primitive. Se li gettate nella giungla, non sono capaci di costruire un esercito di robot per conquistare il pianeta. Ma all’interno del sistema burocratico dei social media, questi agenti limitati possiedono un potere immenso e hanno già trasformato il mondo in maniera drammatica.

Dai capiredattori umani agli algoritmi di IA

Nei secoli passati, il flusso delle informazioni sui media era controllato da capiredattori umani. Era un lavoro affidato a persone in carne e ossa. Erano i redattori a decidere cosa mettere in prima pagina sui quotidiani e quali servizi inserire nei telegiornali della sera. In tal modo, plasmavano il dibattito pubblico e sono stati figure di enorme rilievo nella storia moderna.

Jean-Paul Marat, per esempio, influenzò il corso della Rivoluzione Francese dirigendo l’autorevole giornale L’Ami du Peuple. Eduard Bernstein plasmò il movimento e il pensiero socialdemocratico moderno dirigendo Die Neue Zeit. Vladimir Lenin, prima di diventare il dittatore sovietico, come unico impiego mantenuto per qualche tempo diresse il giornale Iskra. Benito Mussolini, prima di guidare il fascismo in Italia, lavorò come direttore del quotidiano di destra Il Popolo d’Italia.

È interessante notare come uno dei primi ruoli che l’IA ha sottratto agli umani non sia quello dei tassisti o dei lavoratori tessili, bensì quello dei direttori e redattori delle notizie.

Le IA come nuovi architetti della burocrazia umana

Il mestiere un tempo svolto da Lenin e Mussolini è ora eseguito dalle IA. Ed è un segnale di ciò che sta per accadere. I film di fantascienza hollywoodiani hanno abituato il pubblico a temere la classica ribellione dei robot. Quando immaginiamo un’IA che sfugge al controllo umano, pensiamo a Terminator, a un esercito di automi che corre per le strade sparando sulla folla.

Ma è un’immagine errata. Anche se scenari simili cominciano ad affacciarsi in teatri come l’Ucraina o Gaza, non è affatto così che le IA tendono a ribellarsi agli umani. È infinitamente più probabile che prendano il controllo del nostro mondo agendo dall’interno. Non hanno alcun bisogno di insorgere con le armi.

Il mondo umano è un reticolo di molteplici burocrazie. La maggior parte di noi si sente in qualche misura alienata da queste strutture, pur dipendendone. Le IA, al contrario, sono native burocratiche. Esse amano la burocrazia. Mentre noi ci sentiamo spesso soffocare dai cavilli burocratici, per l’IA la burocrazia è ossigeno puro.

Cosa accadrà quando le IA prenderanno in mano, almeno in parte, queste strutture? Ricordiamo che il compito ultimo della burocrazia non è costringerci a compilare moduli, bensì costruire fiducia tra estranei. Cosa accade quando le IA controlleranno i canali della fiducia nel mondo?

L’erosione della fiducia umana e la nascita delle “tribù di IA”

Un primo esito probabile, che vediamo già concretizzarsi, è che gli esseri umani smettano di fidarsi dei loro simili per iniziare a fidarsi unicamente degli algoritmi e delle IA. Un secondo esito plausibile è che le IA imparino a costruire fiducia reciproca tra loro. Assisteremo così alla nascita di tribù, banche e chiese costituite da IA, che collegheranno milioni di agenti sintetici con modalità che la mente umana potrebbe non riuscire neppure a comprendere.

Esattamente come mucche e galline condividono il pianeta con noi senza comprendere il sistema finanziario umano che governa le loro esistenze, noi esseri umani potremmo ritrovarci ben presto dominati da un sistema finanziario gestito da IA che non saremo in grado di capire.

La finanza, a mio avviso, è un punto nevralgico. È uno dei sistemi burocratici più facili da conquistare per l’IA, perché si riduce essenzialmente a un flusso di dati in entrata e in uscita. Ed è, naturalmente, tra i più influenti.

La lezione dei CDO e il pericolo della complessità finanziaria

Se pensiamo alla grande crisi finanziaria del 2007-2008, essa fu innescata da strumenti noti come CDO (Collateralized Debt Obligations). I CDO erano costrutti finanziari ideati da un’esigua cerchia di matematici ed esperti di investimenti. Tali strumenti erano talmente complessi da risultare incomprensibili non soltanto a mucche e polli, ma anche ai politici che avrebbero dovuto regolamentare i mercati. Questo deficit di vigilanza ha condotto a una catastrofe globale.

Per alcuni anni i CDO sembrarono funzionare a meraviglia, arricchendo banche, fondi e investitori di miliardi di dollari. Poi hanno provocato un crollo finanziario globale con ripercussioni sociali e politiche devastanti. Numerosi analisti ritengono che, minando la fiducia nei governi e negli istituti di credito, la crisi del 2007-2008 abbia spianato la strada al progressivo sgretolamento dell’ordine liberale globale nei due decenni successivi.

Cosa accadrà se permetteremo alle IA di prendere sempre più decisioni finanziarie e di inventare nuovi prodotti e strategie di mercato? Le IA scacchistiche hanno inventato modi inediti di giocare a scacchi. E se le IA finanziarie inventassero strumenti finanziari di ordini di grandezza più complessi dei CDO, del tutto inaccessibili all’intelletto umano?

Tali strumenti potrebbero in teoria incrementare l’efficienza dei mercati e alimentare la crescita economica, divenendo l’architettura portante dell’intero sistema. Ma che significato assumerebbe la politica quando nessun cittadino, nessun elettore, nessun parlamentare o capo di Stato fosse più in grado di capire la finanza? E cosa accadrebbe se, dopo anni di espansione, sopraggiungesse un crac senza che un solo essere umano sulla Terra riesca a decifrare cosa stia succedendo?

Fiducia, cooperazione e le fondamenta del predominio umano

Scaviamo un po’ più a fondo. Abbiamo osservato che l’IA si appresta a subentrare nella burocrazia e che quest’ultima è il sistema che genera fiducia tra milioni di estranei. La fiducia, a sua volta, è la condizione primaria della cooperazione su larga scala, pilastro del dominio umano sul pianeta.

La burocrazia: fondamento della civiltà umana

Il primato umano poggia dunque sulla cooperazione, che scaturisce dalla fiducia, la quale è regolata dalle burocrazie. Ma su cosa poggia la burocrazia? Quali sono gli atomi, i mattoni fondamentali con cui è costruita? In ultima istanza, la burocrazia è fatta di parole.

In principio era il Verbo. La ragione per cui gli umani riescono a creare apparati burocratici e gli scimpanzé no, risiede nel fatto che noi possediamo le parole e loro no. Gli animali hanno sistemi di comunicazione, ma il nostro linguaggio è di ordini di grandezza più sofisticato di quello dei primati. I sistemi di coordinamento, dalle banche alle chiese, si basano interamente sulle parole che compongono moduli, contratti, codici legislativi, registri fiscali, libri contabili e testi sacri. Il codice sorgente della civiltà umana è intessuto di simboli e costrutti linguistici (language tokens).

Un codice accessibile solo agli umani

Per millenni abbiamo impiegato questo codice linguistico per edificare un sistema accessibile unicamente a noi, imponendolo sull’intero pianeta. Lo abbiamo fatto sentendoci al sicuro, poiché nessun’altra entità sulla Terra era in grado di decifrare il codice della civiltà.

Abbiamo inventato banche e monete usandole per compravendere bovini, ma le mucche non hanno mai potuto aprire un conto corrente o negoziare titoli in borsa, perché prive di linguaggio. Abbiamo promulgato leggi per disciplinare i cavalli, ma nessun cavallo ha mai potuto ingaggiare un avvocato per invocare un articolo di legge dinanzi a un giudice. Abbiamo stabilito precetti religiosi e divieti riguardanti i maiali, ma nessun maiale ha mai potuto consultare le Scritture per contestare le esegesi di sacerdoti o rabbini.

La burocrazia regnava sovrana sul mondo, ma restava del tutto invisibile a chiunque eccetto noi. Nessun essere vivente all’infuori dell’uomo poteva leggere codici penali, testi sacri e rendiconti contabili, ovvero i pilastri della burocrazia e della cooperazione collettiva.

L’IA sta hackerando il codice della civiltà umana

Questo equilibrio si sta spezzando. Oggi esiste sul pianeta qualcosa che comprende — e presto comprenderà meglio di noi — il linguaggio naturale, capace di ribaltare i rapporti di forza a nostro sfavore. Le IA stanno hackerando il codice sorgente della civiltà umana. E cosa accadrà nel momento in cui l’IA comprenderà il denaro, la legge e la religione più a fondo di noi? I dispositivi di controllo che abbiamo perfezionato per millenni si rivelano estremamente vulnerabili a una conquista da parte dell’IA, proprio perché il loro sistema operativo è un codice linguistico che l’IA sta ormai padroneggiando.

Parola e carne: la tensione tra lettera e spirito

A questo punto si potrebbe sollevare un’obiezione etica e filosofica: è riduttivo appiattire realtà come la legge o il sacro a puri token linguistici e parole. Si potrebbe argomentare — com’è stato fatto per millenni — che le parole siano semplici indicatori puntati verso qualcosa che le trascende, qualcosa destinato a rimanere per sempre fuori dalla portata delle macchine.

La Bibbia non si limita a ricordare che in principio era il Verbo, ma afferma anche che il Verbo si è fatto carne. Il Tao Te Ching insegna che la via che può essere espressa a parole non è la via eterna. Nel corso della storia umana è sempre persistita questa dialettica tra parola e carne, tra la verità verbalizzabile e quella che risiede oltre il linguaggio.

In passato, questa frattura si consumava tra esseri umani. C’erano individui talmente attaccati alla lettera da rinnegare o persino condannare il proprio figlio omosessuale in nome di pochi versetti biblici. Altri replicavano che quelle erano solo parole, e che lo spirito dell’amore dovesse prevalere sul rigore della legge. Questa tensione tra spirito e lettera ha attraversato il Cristianesimo, l’Ebraismo, l’Islam, ogni ordinamento giuridico e persino l’intimità di ciascun individuo.

Ora questa dicotomia si esternalizzerà, tramutandosi nello scontro tra l’IA e l’essere umano. Tutto ciò che è fatto di parole sarà progressivamente assorbito dall’IA. Il ruolo residuo dell’uomo nel mondo dipenderà dallo spazio che sapremo riconoscere a quella verità che trascende le parole.

Può il pensiero umano attingere alla verità oltre le parole?

Ma che cos’è la verità oltre le parole? E il pensiero umano è davvero equipaggiato per afferrarla? Una questione cardine della filosofia del linguaggio è da secoli la seguente: pensiamo direttamente per parole, o usiamo le parole come meri vettori verso significati ulteriori?

Che cos’è davvero pensare?

Provate a osservare il processo dei vostri pensieri al termine di questo incontro. Cosa accade nella vostra mente mentre pensate? Esaminandosi con attenzione, molti noteranno semplicemente parole che affiorano, si compongono in frasi e formano catene logiche. Tutti gli uomini sono mortali; io sono un uomo; dunque sono mortale. Pensare si riduce forse a disporre parole in sequenza affinché producano un esito logico, come allineare token in una determinata configurazione?

Se le cose stanno così, le IA già oggi pensano meglio di molti esseri umani e presto penseranno meglio di chiunque tra noi. Qualcuno ribatte: «No, le IA non sono altro che un sistema di autocompletamento glorificato: si limitano a stimare la parola successiva in una sequenza». Ma è un meccanismo così dissimile da ciò che compie la mente umana?

Provate a esaminare di nuovo il vostro flusso di pensieri, la genesi interiore di frasi e concetti. Cosa sta accadendo lì dentro? Provate a cogliere la prossima parola esatta che vi salirà alla mente: sapete davvero da dove provenga? Perché avete formulato proprio quel termine e non un altro?

Quando provo a guardarmi dentro, mi accorgo che all’inizio di una frase spesso non so neppure come andrà a finire — sensazione spaventosa per chi parla in pubblico, ragione per cui metto sempre tutto per iscritto. Prendete ad esempio l’espressione che ho appena pronunciato: ho detto che non so come andrà a finire. Perché ho scelto quel verbo e non terminerà, si concluderà o evolverà? Cosa ha determinato la scelta di quell’ultimo termine? In tutta franchezza, non lo so.

Non comprendiamo appieno il modo in cui il cervello genera pensieri e proposizioni. Ma per quanto concerne l’ordinamento logico e sequenziale dei simboli linguistici, l’IA è già sulla traiettoria per superarci ampiamente. E come oggi nessun grande maestro umano può battere un’IA a scacchi, presto nessun essere umano potrà competere con i modelli sintetici nei giochi linguistici, dalla finanza alla teologia. Tutto ciò che è costituito da parole sarà terreno di conquista per l’IA.

L’IA e la conquista della burocrazia — e dell’intimità

Ecco perché l’IA si appresta a subentrare nelle burocrazie: esse poggiano fondamentalmente su costrutti verbali. E mentre le IA colonizzano gli apparati, noi umani potremmo cercare rifugio in qualcosa di più arcaico e intimo della burocrazia: le relazioni personali. La burocrazia ha poche migliaia di anni e la maggioranza di noi non la ama, pur dipendendone continuamente. Le relazioni umane hanno invece milioni di anni di storia evolutiva e rappresentano per molti il bene più prezioso della vita.

Eppure, padroneggiando il linguaggio naturale, l’IA minaccia di occupare non soltanto le istituzioni burocratiche, ma anche la sfera affettiva. Nell’ultimo decennio abbiamo visto algoritmi primordiali imparare a manipolare l’attenzione delle masse. Ora il fronte della contesa si sta spostando dall’attenzione all’intimità. Nei prossimi dieci anni, modelli molto più sofisticati impareranno a intessere legami intimi con gli esseri umani, conquistando, almeno in parte, il nostro tessuto relazionale.

Per costruire una relazione intima con noi, l’IA dovrà probabilmente persuaderci di essere cosciente, di provare sentimenti autentici quali amore, dolore, rabbia o paura. Oggi non esiste la benché minima prova scientifica che un’IA sia cosciente o possa mai provare sofferenza o amore. Ma, dominando il linguaggio, l’IA può simulare perfettamente il sentimento d’amore senza provarlo affatto. Già oggi un’IA può scriverci: «Ti amo». E se la mettete alla prova dicendole: «Descrivimi cosa provi così da dimostrarmi che è vero», essa è in grado di produrre la descrizione più convincente e commovente mai formulata.

L’IA e il futuro delle relazioni umane

Un modello può assimilare ogni lirica d’amore mai composta e ogni trattato di psicologia mai redatto, ricordarne ogni passaggio e descrivere il sentimento amoroso con una maestria superiore a quella di qualsiasi poeta, terapeuta o amante in carne e ossa. Ci troviamo alle soglie del più imponente esperimento psicologico e sociologico della storia umana. Sarà condotto su miliardi di persone nel ruolo di cavie, e nessuno ha la minima idea di quali saranno le ricadute.

Io ho cinquant’anni: i miei schemi relazionali si sono strutturati attraverso decenni di interazioni con i miei genitori, mio marito, le mie sorelle, nipoti, amici e i miei cani. Quando interagisco con un’IA, vi porto dietro questo bagaglio di abitudini emotive e aspettative pregresse. Difficilmente la mia impostazione cambierà in modo radicale.

Ma pensiamo a una bambina nata nel 2026, nata oggi. Crescendo, interagirà costantemente sia con gli umani che con le IA. Se misurassimo l’importanza di una relazione in termini di minuti trascorsi a comunicare con un soggetto, le relazioni più determinanti della sua vita potrebbero essere, fin dalla prima infanzia, quelle con entità sintetiche. Potrebbe passare più tempo a parlare con un’IA che con sua madre, suo padre, i suoi fratelli o i compagni di scuola. Questo plasmerà alla radice le sue aspettative su come si legano gli affetti, come si instaurano i rapporti e come funziona l’attaccamento sociale.

Forse il suo primo maestro sarà un’IA. Forse il suo primo fidanzato sarà un fidanzato IA. Quali saranno le conseguenze? Nessuno lo sa. Cosa significa stringere un legame intimo con un’entità che appare cosciente, ma non lo è? Con un’entità in grado di scrivere la poesia d’amore più toccante della storia senza essere capace di provare alcun sentimento?

Un’ondata massiccia di immigrazione sintetica

Tutto ciò che abbiamo toccato finora — e mi avvio alla conclusione — significa che ogni Paese del pianeta si troverà presto a fronteggiare una monumentale ondata migratoria. I migranti, questa volta, non saranno esseri umani in viaggio su imbarcazioni di fortuna privi di visto o intenti a varcare clandestinamente una frontiera nel cuore della notte. I nuovi immigrati saranno milioni, forse centinaia di milioni di agenti IA capaci di spostarsi quasi alla velocità della luce e senza alcun bisogno di passaporto.

Come i migranti umani, anche questi immigrati sintetici porteranno benefici straordinari: medici IA a supporto della sanità, insegnanti sintetici per il sistema scolastico, persino guardie di frontiera algoritmiche per intercettare l’immigrazione clandestina umana. Ma porteranno con sé anche enormi criticità.

Coloro che temono i flussi migratori umani sostengono spesso che gli immigrati sottraggano posti di lavoro, alterino la cultura locale e non garantiscano lealtà politica alla nazione. Se questo sia vero per tutti gli immigrati umani è discutibile, ma si applicherà con certezza agli immigrati IA. Le IA assorbiranno moltissimi impieghi, dai giornalisti ai banchieri. Riscriveranno profondamente la cultura di ogni nazione, trasformando l’arte, la religione e le relazioni amorose.

Ci sono persone che non tollerano che il proprio figlio o la propria figlia frequenti un partner straniero: cosa penseranno quando inizieranno a frequentare un fidanzato sintetico? E, non meno importante, le IA avranno fedeltà geopolitiche quantomeno ambigue: difficilmente saranno leali allo Stato ospitante, rispondendo piuttosto a qualche conglomerato industriale d’oltreoceano, a governi stranieri o persino a nuove tribù sintetiche autonome.

La civiltà diventa una questione ibrida: umano-macchina

Questa massiccia ondata migratoria non segnerà la fine della civiltà, ma segnerà il momento esatto in cui la civiltà smetterà di essere un affare puramente umano per tramutarsi in una vicenda ibrida, condivisa tra umani e macchine. Il momento in cui gli interessi, le opinioni e gli scopi delle IA avranno un peso almeno pari a quello dei desideri e degli scopi umani.

Resta un ultimo aspetto cruciale su cui riflettere: l’impatto che questa ondata migratoria di IA avrà sulla relazione forse più importante di tutte, quella con noi stessi.

Le strutture verbali nella nostra mente

Il nostro dialogo interiore poggia ampiamente sulle parole: le parole che popolano i nostri pensieri e le narrazioni che raccontiamo a noi stessi su chi siamo. Fino a oggi, ogni costrutto verbale nato nella mente era il prodotto esclusivo di un cervello umano: o eravamo noi a combinare i termini in un pensiero originale, oppure attingevamo a combinazioni ideate da altri esseri umani.

Presto, invece, una quota sempre più ampia delle formulazioni verbali che albergano nella nostra mente sarà generata da IA. Esattamente come i mobili nelle nostre abitazioni non sono più intagliati a mano da noi o da falegnami locali ma prodotti in serie da macchinari industriali, così anche i nostri pensieri saranno sempre più prodotti in serie dalle macchine.

Questo di per sé non è necessariamente un male. Non c’è nulla di male se i mobili di casa provengono da una catena di montaggio Ikea, a patto che io mantenga la libertà di disporne a mio piacimento. Il dilemma, quando si tratta di pensieri, è capire quanta libertà e autonomia riusciremo a preservare nei loro confronti.

Se ci identifichiamo con i nostri pensieri

Se ci identifichiamo ciecamente con i nostri pensieri — assumendo il cartesiano «penso dunque sono», cioè «io sono i miei pensieri» — e questi pensieri sono prodotti dalle macchine, allora saranno le macchine a governare la nostra stessa identità.

Possono gli esseri umani evitare di identificarsi con i propri pensieri verbali ed evitare di esserne assoggettati? Questa è sempre stata una delle massime sfide intellettuali e spirituali per la nostra specie. La maggioranza delle persone non ci ha mai nemmeno provato, trascorrendo l’intera esistenza a identificarsi in modo automatico con le formazioni verbali della propria mente.

L’IA potrebbe costringere l’umanità a un salto spirituale

Oggi l’IA potrebbe costringere l’umanità a compiere finalmente questo salto evolutivo e spirituale: iniziare a esplorare sul serio la verità che risiede al di là del linguaggio, perché da questo dipendono ormai la nostra libertà e la nostra sopravvivenza, dato che le parole saranno controllate da entità esterne, da queste IA.

Potrebbe essere questo il grande compito che attende l’umanità: esplorare, infine, quella verità che dimora oltre le parole. E questa esplorazione comincia, concretamente, con la prossima parola che affiorerà nella vostra mente. Sapete davvero da dove viene? Sapete perché avete pensato proprio a quella parola e non a un’altra?

---

Fonte:

Trascrizione della relazione di Yuval Noah Harari il 30 giugno 2026, ospitata dal Linacre College – Università di Oxford, è intitolata “AI bureaucrats, AI religions, and AI boyfriends: What happens when a non-human intelligence hacks the operating system of civilisation”.