IA: Macchine di Amorevole Grazia

Di Dario Amodei, co-fondatore e CEO di Anthropic

Penso e parlo spesso dei rischi legati a un’intelligenza artificiale potente. L’azienda di cui sono CEO, Anthropic, si dedica a numerose ricerche su come ridurre questi rischi. Per questo motivo, a volte le persone giungono alla conclusione che io sia un pessimista o un “catastrofista” convinto che l’IA sarà per lo più negativa o pericolosa. Non la penso affatto così. Anzi, uno dei motivi principali per cui mi concentro sui rischi è che rappresentano l’unico ostacolo tra noi e quello che io vedo come un futuro fondamentalmente positivo. Credo che la maggior parte delle persone sottovaluti la portata dei potenziali benefici dell’IA , così come credo che sottovaluti la gravità dei rischi.

In questo saggio cerco di delineare quale potrebbe essere il lato positivo di questo scenario: come potrebbe apparire un mondo dotato di un’intelligenza artificiale potente, se tutto andasse per il verso giusto. Naturalmente, nessuno può conoscere il futuro con certezza o precisione, e gli effetti di un’IA potente saranno probabilmente ancora più imprevedibili dei cambiamenti tecnologici passati, quindi tutto ciò che analizzerò sarà inevitabilmente basato su ipotesi. Il mio obiettivo è però quello di formulare ipotesi fondate e utili, che colgano l’essenza di ciò che accadrà anche se la maggior parte dei dettagli si rivelasse errata. Ho incluso molti dettagli principalmente perché credo che una visione concreta contribuisca maggiormente al dibattito rispetto a una visione vaga e astratta.

Innanzitutto, però, vorrei spiegare brevemente perché io e Anthropic non abbiamo parlato molto dei vantaggi di un’intelligenza artificiale potente e perché, in generale, probabilmente continueremo a parlare molto dei rischi. In particolare, ho fatto questa scelta per il desiderio di:

Massimizzare la leva finanziaria. Lo sviluppo di base della tecnologia IA e molti (ma non tutti) dei suoi benefici sembrano inevitabili (a meno che i rischi non compromettano tutto) e sono fondamentalmente guidati da potenti forze di mercato. D’altra parte, i rischi non sono predeterminati e le nostre azioni possono modificarne notevolmente la probabilità.
Evitare di dare l’impressione di essere oggetto di propaganda. Le aziende che si occupano di intelligenza artificiale e che decantano tutti gli incredibili vantaggi dell’IA possono sembrare dei propagandisti, o dare l’impressione di voler distogliere l’attenzione dagli aspetti negativi. Credo inoltre che, per principio, sia dannoso per la propria anima dedicare troppo tempo a “parlare a vanvera”.
Evitare la grandiosità. Spesso mi infastidisce il modo in cui molte figure pubbliche che si occupano di rischi legati all’IA (per non parlare dei leader delle aziende del settore) parlano del mondo post-AGI, come se la loro missione fosse quella di realizzarlo da sole, come un profeta che guida il suo popolo verso la salvezza. Credo sia pericoloso considerare le aziende come artefici unilaterali del cambiamento del mondo, e altrettanto pericoloso interpretare gli obiettivi tecnologici pratici in termini essenzialmente religiosi.
Evitare il bagaglio “fantascientifico”. Sebbene ritenga che la maggior parte delle persone sottovaluti i vantaggi di un’intelligenza artificiale potente, la piccola comunità di persone che discute di futuri radicali basati sull’IA lo fa spesso con un tono eccessivamente “fantascientifico” (con ad esempio menti caricate, esplorazione spaziale o atmosfere cyberpunk in generale). Credo che questo porti le persone a prendere meno sul serio le affermazioni e a infondere loro una sorta di irrealtà. Sia chiaro, il problema non è se le tecnologie descritte siano possibili o probabili (il saggio principale ne discute in dettaglio), ma piuttosto che l’atmosfera porti con sé una serie di presupposti culturali e taciti su quale tipo di futuro sia auspicabile, su come si evolveranno le varie questioni sociali, ecc. Il risultato spesso è quello di una fantasia per una ristretta sottocultura, risultando al contempo sgradevole alla maggior parte delle persone.

Eppure, nonostante tutte le preoccupazioni di cui sopra, credo davvero che sia importante discutere di come potrebbe essere un mondo migliore con un’intelligenza artificiale potente, facendo del nostro meglio per evitare le insidie menzionate. Anzi, penso che sia fondamentale avere una visione del futuro davvero stimolante, e non solo un piano per spegnere gli incendi. Molte delle implicazioni di un’intelligenza artificiale potente sono ostili o pericolose, ma alla fine di tutto, ci deve essere qualcosa per cui lottare , un risultato positivo a somma totale in cui tutti stiano meglio, qualcosa che spinga le persone a superare i propri litigi e ad affrontare le sfide future. La paura è un tipo di motivazione, ma non è sufficiente: abbiamo bisogno anche di speranza.

L’elenco delle applicazioni positive di un’intelligenza artificiale potente è estremamente lungo (e include robotica, produzione industriale, energia e molto altro), ma mi concentrerò su un numero limitato di aree che, a mio avviso, hanno il maggiore potenziale per migliorare direttamente la qualità della vita umana. Le cinque categorie che mi entusiasmano di più sono:

Biologia e salute fisica
Neuroscienze e salute mentale
sviluppo economico e povertà
Pace e governo
Lavoro e significato

Le mie previsioni saranno radicali secondo la maggior parte degli standard (a parte le visioni fantascientifiche di “singolarità” ²), ma intendo queste cose seriamente e sinceramente. Tutto ciò che dico potrebbe benissimo essere sbagliato (per ribadire quanto detto sopra), ma ho almeno tentato di fondare le mie opinioni su una valutazione semi-analitica di quanto potrebbe accelerare il progresso in vari campi e cosa ciò potrebbe significare in pratica. Ho la fortuna di avere esperienza professionale sia in biologia che in neuroscienze , e sono un dilettante informato nel campo dello sviluppo economico, ma sono sicuro che commetterò molti errori. Una cosa che scrivere questo saggio mi ha fatto capire è che sarebbe utile riunire un gruppo di esperti del settore (in biologia, economia, relazioni internazionali e altri ambiti) per scrivere una versione molto migliore e più informata di ciò che ho prodotto qui. Probabilmente è meglio considerare il mio lavoro qui come uno spunto di partenza per quel gruppo.

Presupposti e quadro di riferimento fondamentali

Per rendere questo saggio più preciso e concreto, è utile specificare chiaramente cosa intendiamo per IA potente (ovvero la soglia oltre la quale inizia a decorrere il periodo di 5-10 anni), nonché delineare un quadro di riferimento per riflettere sugli effetti di tale IA una volta che essa sarà presente.

Quale potente IA (non mi piace il termine AGI) ³Che aspetto avrà e quando (o se) arriverà è un argomento vastissimo. Ne ho già parlato pubblicamente e potrei scriverci un saggio a parte (probabilmente lo farò prima o poi). Ovviamente, molti sono scettici sul fatto che un’intelligenza artificiale potente verrà creata presto, e alcuni sono addirittura scettici sul fatto che verrà mai creata. Credo che potrebbe arrivare già nel 2026, anche se ci sono anche scenari in cui ci vorrà molto più tempo. Ma ai fini di questo saggio, vorrei mettere da parte queste questioni, ipotizzare che arriverà in tempi relativamente brevi e concentrarmi su ciò che accadrà nei 5-10 anni successivi. Voglio anche dare per scontata una definizione di come sarà un sistema del genere, quali saranno le sue capacità e come interagirà, anche se su questo punto ci sono margini di disaccordo.

Per IA potente intendo un modello di IA, probabilmente simile nella forma agli attuali LLM, sebbene possa essere basato su un’architettura diversa, coinvolgere diversi modelli interagenti ed essere addestrato in modo diverso, con le seguenti proprietà:

In termini di pura intelligenza ⁴ È più intelligente di un premio Nobel nella maggior parte dei campi rilevanti: biologia, programmazione, matematica, ingegneria, scrittura, ecc. Ciò significa che può dimostrare teoremi matematici irrisolti, scrivere romanzi di altissima qualità, creare codebase complessi da zero, ecc.
Oltre a essere semplicemente un “oggetto intelligente con cui si può parlare”, possiede tutte le “interfacce” disponibili a un essere umano che lavora virtualmente, tra cui testo, audio, video, controllo tramite mouse e tastiera e accesso a Internet. Può eseguire qualsiasi azione, comunicazione o operazione remota abilitata da questa interfaccia, come eseguire azioni su Internet, ricevere o dare istruzioni a persone, ordinare materiali, dirigere esperimenti, guardare video, creare video e così via. E svolge tutti questi compiti con, ancora una volta, un’abilità che supera quella degli esseri umani più capaci al mondo.
Non si limita a rispondere passivamente alle domande; al contrario, può ricevere incarichi che richiedono ore, giorni o settimane per essere completati, e poi li esegue in autonomia, proprio come farebbe un dipendente intelligente, chiedendo chiarimenti quando necessario.
Non ha un’incarnazione fisica (se non quella di esistere sullo schermo di un computer), ma può controllare strumenti fisici, robot o apparecchiature di laboratorio esistenti tramite un computer; in teoria potrebbe persino progettare robot o apparecchiature da utilizzare autonomamente.
Le risorse utilizzate per addestrare il modello possono essere riutilizzate per eseguirne milioni di istanze (il che corrisponde alle dimensioni previste dei cluster entro il 2027 circa), e il modello può assorbire informazioni e generare azioni a una velocità circa 10-100 volte superiore a quella umana ^_.Tuttavia, le sue prestazioni potrebbero essere limitate dai tempi di risposta del mondo fisico o del software con cui interagisce.
Ognuna di queste milioni di copie può agire in modo indipendente su compiti non correlati, oppure, se necessario, tutte insieme possono collaborare nello stesso modo in cui collaborerebbero gli esseri umani, magari con diverse sottopopolazioni ottimizzate per essere particolarmente brave in compiti specifici.

Potremmo riassumere il tutto come un “paese di geni in un data center”.

Chiaramente un’entità del genere sarebbe in grado di risolvere problemi molto difficili, molto velocemente, ma non è banale capire quanto velocemente. Due posizioni “estreme” mi sembrano entrambe false. In primo luogo, si potrebbe pensare che il mondo verrebbe trasformato istantaneamente nell’arco di secondi o giorni (” la Singolarità “), poiché un’intelligenza superiore si autoalimenterebbe e risolverebbe quasi immediatamente ogni possibile problema scientifico, ingegneristico e operativo. Il problema è che esistono limiti fisici e pratici reali, ad esempio nella costruzione di hardware o nella conduzione di esperimenti biologici. Persino un nuovo paese di geni si scontrerebbe con questi limiti. L’intelligenza può essere molto potente, ma non è polvere magica.

In secondo luogo, e viceversa, si potrebbe credere che il progresso tecnologico sia saturo o limitato dai dati del mondo reale o da fattori sociali, e che un’intelligenza superiore a quella umana aggiungerà ben poco ^.

Anche questo mi sembra altrettanto inverosimile: posso pensare a centinaia di problemi scientifici o persino sociali in cui un folto gruppo di persone davvero intelligenti potrebbe accelerare drasticamente i progressi, soprattutto se non si limitassero all’analisi e fossero in grado di far accadere le cose nel mondo reale (cosa che il nostro ipotetico paese di geni potrebbe fare, anche dirigendo o assistendo team di persone).

Credo che la verità sia probabilmente una sorta di miscuglio confuso di queste due immagini estreme, qualcosa che varia a seconda del compito e del settore e che è molto sottile nei suoi dettagli. Credo che abbiamo bisogno di nuovi modelli per pensare a questi dettagli in modo produttivo.

Gli economisti parlano spesso di “fattori di produzione”: cose come lavoro, terra e capitale. L’espressione “rendimenti marginali del lavoro/terra/capitale” coglie l’idea che in una data situazione, un determinato fattore può essere o meno quello limitante – ad esempio, un’aeronautica militare ha bisogno sia di aerei che di piloti, e assumere più piloti non serve a molto se non si hanno aerei. Credo che nell’era dell’IA dovremmo parlare dei rendimenti marginali dell’intelligenza

e cercando di capire quali siano gli altri fattori complementari all’intelligenza e che diventano limitanti quando l’intelligenza è molto elevata. Non siamo abituati a pensare in questo modo, a chiederci “quanto aiuta essere più intelligenti in questo compito e in quale arco di tempo?”, ma sembra il modo giusto di concettualizzare un mondo con un’intelligenza artificiale molto potente.

A mio avviso, l’elenco dei fattori che limitano o sono complementari all’intelligenza comprende:

Velocità del mondo esterno . Gli agenti intelligenti devono operare in modo interattivo nel mondo per realizzare cose e anche per imparare ⁸Ma il mondo ha dei limiti di velocità. Le cellule e gli animali si muovono a una velocità fissa, quindi gli esperimenti su di essi richiedono un certo lasso di tempo, che potrebbe essere irriducibile. Lo stesso vale per l’hardware, la scienza dei materiali, qualsiasi attività che implichi la comunicazione con le persone e persino per la nostra attuale infrastruttura software. Inoltre, in ambito scientifico sono spesso necessari molti esperimenti in sequenza, ognuno dei quali apprende dal precedente o si basa su di esso. Tutto ciò significa che la velocità con cui un progetto importante, ad esempio lo sviluppo di una cura per il cancro, può essere completato potrebbe avere un minimo irriducibile che non può essere ulteriormente ridotto, nemmeno con il continuo aumento dell’intelligenza.
Necessità di dati . A volte mancano i dati grezzi e, in loro assenza, una maggiore intelligenza non è di aiuto. I fisici delle particelle di oggi sono molto ingegnosi e hanno sviluppato un’ampia gamma di teorie, ma mancano dei dati per scegliere tra di esse perché i dati provenienti dagli acceleratori di particelle sono molto limitati . Non è chiaro se otterrebbero risultati drasticamente migliori se fossero superintelligenti, se non forse accelerando la costruzione di un acceleratore più grande.
Complessità intrinseca . Alcune cose sono intrinsecamente imprevedibili o caotiche e persino l’IA più potente non può prevederle o districarle in modo sostanzialmente migliore di un essere umano o di un computer oggi. Ad esempio, anche un’IA incredibilmente potente potrebbe prevedere solo marginalmente più avanti in un sistema caotico (come il problema dei tre corpi ) nel caso generale, ⁹rispetto agli esseri umani e ai computer di oggi.
Vincoli imposti dagli esseri umani . Molte cose non possono essere fatte senza violare leggi, danneggiare gli esseri umani o sconvolgere la società. Un’IA allineata non vorrebbe fare queste cose (e se avessimo un’IA non allineata, torneremmo a parlare di rischi). Molte strutture sociali umane sono inefficienti o addirittura attivamente dannose, ma sono difficili da modificare rispettando vincoli come i requisiti legali per le sperimentazioni cliniche, la volontà delle persone di cambiare le proprie abitudini o il comportamento dei governi. Esempi di progressi che funzionano bene dal punto di vista tecnico, ma il cui impatto è stato sostanzialmente ridotto da regolamenti o timori infondati, includono l’energia nucleare, il volo supersonico e persino gli ascensori .
Leggi fisiche . Questa è una versione più cruda del primo punto. Esistono alcune leggi fisiche che sembrano inviolabili. Non è possibile viaggiare più veloce della luce. Il budino non si scongela . I chip possono avere solo un certo numero di transistor per centimetro quadrato prima di diventare inaffidabili . Il calcolo richiede una certa energia minima per bit cancellato, limitando la densità di calcolo nel mondo.

Esiste un’ulteriore distinzione basata sulle scale temporali. Ciò che rappresenta un vincolo rigido nel breve termine potrebbe diventare più malleabile all’intelligenza nel lungo termine. Ad esempio, l’intelligenza potrebbe essere utilizzata per sviluppare un nuovo paradigma sperimentale che ci permetta di apprendere in vitro ciò che prima richiedeva esperimenti su animali vivi, o per costruire gli strumenti necessari a raccogliere nuovi dati (ad esempio, un acceleratore di particelle più grande), o per trovare (entro limiti etici) soluzioni per aggirare i vincoli imposti dall’uomo (ad esempio, contribuendo a migliorare il sistema delle sperimentazioni cliniche, a creare nuove giurisdizioni in cui le sperimentazioni cliniche siano meno burocratiche, o a migliorare la scienza stessa per rendere le sperimentazioni cliniche sull’uomo meno necessarie o più economiche).

Dovremmo quindi immaginare uno scenario in cui l’intelligenza è inizialmente fortemente limitata dagli altri fattori di produzione, ma col tempo l’intelligenza stessa aggira sempre più gli altri fattori, anche se questi non si dissolvono mai completamente (e alcune cose, come le leggi fisiche, sono assolute) ¹⁰La questione fondamentale è con quale rapidità e in quale ordine avvenga tutto ciò.

Tenendo presente il quadro di riferimento sopra descritto, cercherò di rispondere a questa domanda per le cinque aree menzionate nell’introduzione.

1. Biologia e salute

La biologia è probabilmente il campo in cui il progresso scientifico ha il maggior potenziale per migliorare in modo diretto e inequivocabile la qualità della vita umana. Nel secolo scorso alcune delle più antiche malattie che affliggono l’umanità (come il vaiolo) sono state finalmente debellate, ma molte altre persistono ancora, e sconfiggerle rappresenterebbe un’enorme conquista umanitaria. Oltre alla cura delle malattie, la scienza biologica può in linea di principio migliorare la qualità di base della salute umana, allungando la durata della vita in buona salute, aumentando il controllo e la libertà sui nostri processi biologici e affrontando i problemi quotidiani che attualmente consideriamo immutabili e intrinseci alla condizione umana.

Nel linguaggio dei “fattori limitanti” della sezione precedente, le principali sfide nell’applicare direttamente l’intelligenza alla biologia sono i dati, la velocità del mondo fisico e la complessità intrinseca (in realtà, tutti e tre sono correlati tra loro). Anche i limiti umani giocano un ruolo in una fase successiva, quando si tratta di sperimentazioni cliniche. Analizziamoli uno per uno.

Gli esperimenti su cellule, animali e persino processi chimici sono limitati dalla velocità del mondo fisico: molti protocolli biologici prevedono la coltura di batteri o altre cellule, o semplicemente l’attesa che si verifichino reazioni chimiche, e questo a volte può richiedere giorni o addirittura settimane, senza un modo evidente per accelerarlo. Gli esperimenti sugli animali possono durare mesi (o più) e quelli sugli esseri umani spesso durano anni (o addirittura decenni per gli studi sugli esiti a lungo termine). In qualche modo correlato a ciò, i dati sono spesso insufficienti, non tanto in termini quantitativi, quanto qualitativi: c’è sempre una carenza di dati chiari e inequivocabili che isolino un effetto biologico di interesse dalle altre 10.000 variabili confondenti in atto, o che intervengano causalmente in un dato processo, o che misurino direttamente un effetto (anziché inferirne le conseguenze in modo indiretto o approssimativo). Anche i dati molecolari quantitativi di grandi dimensioni, come i dati proteomici che ho raccolto lavorando sulle tecniche di spettrometria di massa, sono rumorosi e tralasciano molte informazioni (in quali tipi di cellule si trovavano queste proteine? In quale parte della cellula? In quale fase del ciclo cellulare?).

Una delle cause di questi problemi con i dati è la complessità intrinseca: chiunque abbia mai visto un diagramma che illustra la biochimica del metabolismo umano sa quanto sia difficile isolare l’effetto di una qualsiasi parte di questo sistema complesso, e ancor più difficile intervenire sul sistema in modo preciso o prevedibile. Infine, oltre al tempo intrinseco necessario per condurre un esperimento sugli esseri umani, le sperimentazioni cliniche vere e proprie implicano molta burocrazia e requisiti normativi che (a parere di molti, me compreso) aggiungono tempo inutilmente e rallentano i progressi.

Considerato tutto ciò, molti biologi sono da tempo scettici sul valore dell’IA e dei “big data” in generale in biologia. Storicamente, matematici, informatici e fisici che hanno applicato le proprie competenze alla biologia negli ultimi 30 anni hanno avuto un discreto successo, ma non hanno avuto l’impatto veramente trasformativo inizialmente sperato. Parte dello scetticismo è stato attenuato da importanti e rivoluzionarie scoperte come AlphaFold (che ha appena meritatamente fatto vincere ai suoi creatori il Premio Nobel per la Chimica ) e AlphaProteo ^11.Tuttavia, persiste la convinzione che l’IA sia (e continuerà a essere) utile solo in un numero limitato di circostanze. Una formulazione comune è: “L’IA può analizzare i dati in modo più efficace, ma non può produrre più dati né migliorarne la qualità. Se inserisci dati errati, otterrai risultati errati”.

Credo però che questa prospettiva pessimistica rappresenti un modo errato di concepire l’IA. Se la nostra ipotesi principale sui progressi dell’IA è corretta, allora il modo giusto di pensare all’IA non è come un metodo di analisi dei dati, ma come un biologo virtuale che svolge tutti i compiti dei biologi, inclusa la progettazione e l’esecuzione di esperimenti nel mondo reale (controllando robot di laboratorio o semplicemente indicando agli esseri umani quali esperimenti eseguire, come farebbe un ricercatore principale con i suoi studenti di dottorato), l’invenzione di nuovi metodi biologici o tecniche di misurazione, e così via. È accelerando l’intero processo di ricerca che l’IA può davvero dare una spinta alla biologia. Voglio ribadirlo perché è l’equivoco più comune che emerge quando parlo della capacità dell’IA di trasformare la biologia: non mi riferisco all’IA come a un semplice strumento per analizzare i dati. In linea con la definizione di IA potente data all’inizio di questo saggio, mi riferisco all’utilizzo dell’IA per eseguire, dirigere e migliorare praticamente tutto ciò che fanno i biologi.

Per essere più specifico su dove penso che l’accelerazione probabilmente arriverà, una frazione sorprendentemente grande del progresso in biologia è derivata da un numero davvero esiguo di scoperte, spesso legate a strumenti o tecniche di misurazione di ampio respiro ¹²

che consentono un intervento preciso ma generalizzato o programmabile nei sistemi biologici. Si registra forse circa una di queste importanti scoperte all’anno e, nel loro complesso, contribuiscono a oltre il 50% del progresso in biologia. Queste scoperte sono così potenti proprio perché superano la complessità intrinseca e i limiti dei dati, aumentando direttamente la nostra comprensione e il nostro controllo sui processi biologici. Poche scoperte ogni decennio hanno permesso di acquisire gran parte delle nostre conoscenze scientifiche di base in biologia e hanno guidato lo sviluppo di molti dei trattamenti medici più efficaci.

Alcuni esempi includono:

CRISPR : una tecnica che consente la modifica in vivo di qualsiasi gene negli organismi viventi (sostituzione di una qualsiasi sequenza genica con un’altra sequenza arbitraria). Dalla sua ideazione, la tecnica è stata costantemente migliorata per poter colpire specifici tipi di cellule, aumentando la precisione e riducendo il rischio di modificare il gene sbagliato, tutti aspetti necessari per un utilizzo sicuro nell’uomo.
Esistono diverse tipologie di microscopia per osservare ciò che accade a un livello di dettaglio preciso: microscopi ottici avanzati (con varie tecniche di fluorescenza, ottiche speciali, ecc.), microscopi elettronici, microscopi a forza atomica, ecc.
Il sequenziamento e la sintesi del genoma, il cui costo è diminuito di diversi ordini di grandezza negli ultimi due decenni.
Tecniche optogenetiche che permettono di attivare un neurone illuminandolo con una luce.
I vaccini a mRNA , in linea di principio, ci permettono di progettare un vaccino contro qualsiasi cosa e poi di adattarlo rapidamente (i vaccini a mRNA sono diventati famosi durante il COVID).
Le terapie cellulari come la CAR-T consentono di prelevare cellule immunitarie dal corpo e di “riprogrammarle” per attaccare, in linea di principio, qualsiasi cosa.
Intuizioni concettuali come la teoria dei germi delle malattie o la realizzazione di un legame tra il sistema immunitario e il cancro ¹³.

Mi sto prendendo la briga di elencare tutte queste tecnologie perché voglio fare un’affermazione cruciale al riguardo: credo che il loro ritmo di scoperta potrebbe essere aumentato di 10 volte o più se ci fossero molti più ricercatori talentuosi e creativi . O, per dirla in altro modo, credo che il ritorno in termini di intelligenza per queste scoperte sia elevato e che tutto il resto in biologia e medicina ne derivi in gran parte.

Perché la penso così? Per via delle risposte ad alcune domande che dovremmo abituarci a porci quando cerchiamo di determinare il “ritorno dell’intelligenza”. In primo luogo, queste scoperte sono generalmente fatte da un numero ristretto di ricercatori, spesso le stesse persone ripetutamente, il che suggerisce competenza e non una ricerca casuale (quest’ultima potrebbe indicare che la durata degli esperimenti sia il fattore limitante). In secondo luogo, spesso “avrebbero potuto essere fatte” anni prima: ad esempio, CRISPR era un componente naturale del sistema immunitario dei batteri, noto fin dagli anni ’80 , ma ci sono voluti altri 25 anni prima che ci si rendesse conto che poteva essere riutilizzato per la modifica genetica in generale. Inoltre, spesso subiscono ritardi di molti anni a causa della mancanza di supporto da parte della comunità scientifica per le direzioni promettenti (si veda questo profilo sull’inventore dei vaccini a mRNA; storie simili abbondano). In terzo luogo, i progetti di successo sono spesso frutto di iniziative improvvisate o di ripensamenti iniziali, non di sforzi massicci finanziati. Questo suggerisce che non è solo la concentrazione di risorse a guidare le scoperte, ma anche l’ingegno.

Infine, sebbene alcune di queste scoperte presentino una “dipendenza seriale” (è necessario fare prima la scoperta A per avere gli strumenti o le conoscenze per fare la scoperta B), il che potrebbe a sua volta causare ritardi sperimentali, molte, forse la maggior parte, sono indipendenti, il che significa che è possibile lavorare su molte contemporaneamente in parallelo. Sia questi fatti, sia la mia esperienza generale come biologo, mi suggeriscono fortemente che ci siano centinaia di scoperte di questo tipo in attesa di essere fatte se gli scienziati fossero più intelligenti e più bravi a stabilire connessioni tra la vasta quantità di conoscenze biologiche possedute dall’umanità (si pensi, ad esempio, al sistema CRISPR). Il successo di AlphaFold / AlphaProteo nel risolvere problemi importanti in modo molto più efficace degli esseri umani, nonostante decenni di modelli fisici accuratamente progettati, fornisce una prova di principio (seppur con uno strumento limitato in un ambito ristretto) che dovrebbe indicare la strada da seguire.

Pertanto, ritengo che una potente intelligenza artificiale potrebbe almeno 10 volte più velocemente il ritmo di queste scoperte, permettendoci di ottenere i prossimi 50-100 anni di progressi biologici in 5-10 anni. ¹⁴Perché non 100x? Forse è possibile, ma qui sia la dipendenza seriale che i tempi degli esperimenti diventano importanti: ottenere 100 anni di progressi in 1 anno richiede che molte cose vadano bene la prima volta, inclusi esperimenti sugli animali e cose come la progettazione di microscopi o costose strutture di laboratorio. In realtà sono aperto all’idea (forse assurda) che potremmo ottenere

1000 anni di progressi in 5-10 anni, ma molto scettico sul fatto che possiamo ottenerne 100 in 1 anno. Un altro modo per dirlo è che penso ci sia un ritardo costante inevitabile: gli esperimenti e la progettazione hardware hanno una certa “latenza” e devono essere iterati un certo numero “irriducibile” di volte per apprendere cose che non possono essere dedotte logicamente. Ma un parallelismo massiccio potrebbe essere possibile in aggiunta a questo ¹⁵.

Che dire delle sperimentazioni cliniche? Sebbene siano caratterizzate da molta burocrazia e rallentamenti, la verità è che gran parte (anche se non tutta!) della loro lentezza deriva in ultima analisi dalla necessità di valutare rigorosamente farmaci che funzionano a malapena o in modo ambiguo. Purtroppo, questo vale per la maggior parte delle terapie odierne: il farmaco antitumorale medio aumenta la sopravvivenza di pochi mesi, ma presenta effetti collaterali significativi che devono essere attentamente monitorati (una situazione simile si verifica per i farmaci contro l’Alzheimer). Ciò porta a studi di grandi dimensioni (al fine di raggiungere una potenza statistica sufficiente) e a difficili compromessi che le agenzie regolatorie in genere non sono brave a gestire, ancora una volta a causa della burocrazia e della complessità degli interessi contrapposti.

Quando qualcosa funziona davvero bene, il processo è molto più rapido: si crea una procedura di approvazione accelerata e la facilità di approvazione è maggiore quando l’effetto è più rilevante. I vaccini a mRNA per il COVID sono stati approvati in 9 mesi, molto più velocemente rispetto ai tempi usuali. Detto questo, anche in queste condizioni le sperimentazioni cliniche sono ancora troppo lente: si potrebbe sostenere che i vaccini a mRNA avrebbero dovuto essere approvati in circa 2 mesi . Ma questo tipo di ritardi (circa un anno dall’inizio alla fine per un farmaco), combinati con la massiccia parallelizzazione e la necessità di alcune, ma non troppe, iterazioni (“pochi tentativi”), sono perfettamente compatibili con una trasformazione radicale in 5-10 anni. Ancor più ottimisticamente, è possibile che la scienza biologica basata sull’intelligenza artificiale riduca la necessità di iterazioni nelle sperimentazioni cliniche, sviluppando modelli sperimentali animali e cellulari (o persino simulazioni) più accurati nel prevedere cosa accadrà negli esseri umani. Ciò sarà particolarmente importante nello sviluppo di farmaci contro il processo di invecchiamento, che si svolge nell’arco di decenni e dove è necessario un ciclo di iterazione più rapido.

Infine, riguardo al tema delle sperimentazioni cliniche e delle barriere sociali, vale la pena sottolineare esplicitamente che, per certi versi, le innovazioni biomediche hanno una storia insolitamente solida di successi nell’implementazione, a differenza di altre tecnologie ¹⁶Come accennato nell’introduzione, molte tecnologie, pur funzionando bene dal punto di vista tecnico, sono ostacolate da fattori sociali. Questo potrebbe suggerire una prospettiva pessimistica su ciò che l’IA può realizzare

. Ma la biomedicina è unica in quanto, sebbene il processo di sviluppo dei farmaci sia eccessivamente complesso, una volta sviluppati, questi vengono generalmente distribuiti e utilizzati con successo.

Per riassumere quanto detto sopra, la mia previsione di base è che la biologia e la medicina basate sull’intelligenza artificiale ci permetteranno di comprimere in 5-10 anni i progressi che i biologi umani avrebbero compiuto nei prossimi 50-100 anni. Mi riferirò a questo come al “XXI secolo compresso”: l’idea è che, una volta sviluppata un’intelligenza artificiale potente, in pochi anni realizzeremo in biologia e medicina tutti i progressi che avremmo compiuto nell’intero XXI secolo.

Sebbene prevedere cosa potrà fare un’intelligenza artificiale potente tra qualche anno rimanga intrinsecamente difficile e speculativo, c’è una certa concretezza nel chiedersi “cosa potrebbero fare gli esseri umani senza alcun aiuto nei prossimi 100 anni?”. Osservare semplicemente i risultati ottenuti nel XX secolo, estrapolare dai primi due decenni del XXI, o chiedersi cosa potremmo ottenere con “10 CRISPR e 50 CAR-T”, offre tutti modi pratici e concreti per stimare il livello generale di progresso che potremmo aspettarci da un’intelligenza artificiale potente.

Di seguito cercherò di elencare ciò che potremmo aspettarci. Non si basa su una metodologia rigorosa e quasi certamente si rivelerà errata nei dettagli, ma cerca di trasmettere il livello generale di radicalismo che dovremmo prevedere:

Prevenzione e trattamento affidabili di quasi tutte ^{le 17 malattie} malattie infettive naturali. Visti gli enormi progressi compiuti nella lotta contro le malattie infettive nel XX secolo, non è azzardato immaginare che potremmo più o meno “portare a termine il lavoro” in un XXI secolo più breve. I vaccini a mRNA e tecnologie simili indicano già la strada verso ” vaccini per qualsiasi cosa “. L’eradicazione completa delle malattie infettive dal mondo (e non solo in alcune aree) dipende da questioni relative alla povertà e alla disuguaglianza, che saranno discusse nella Sezione 3.
Eliminazione della maggior parte dei tumori . I tassi di mortalità per cancro sono diminuiti di circa il 2% all’anno negli ultimi decenni; pertanto, al ritmo attuale della scienza umana, siamo sulla buona strada per eliminare la maggior parte dei tumori nel XXI secolo. Alcuni sottotipi sono già stati ampiamente curati (ad esempio, alcuni tipi di leucemia con la terapia CAR-T ), e sono forse ancora più entusiasta per i farmaci altamente selettivi che colpiscono il cancro nella sua fase iniziale, impedendone la crescita. L’intelligenza artificiale renderà inoltre possibili regimi di trattamento finemente adattati al genoma individuale del tumore: questi sono possibili oggi, ma estremamente costosi in termini di tempo e competenze umane, che l’IA dovrebbe consentirci di scalare. Riduzioni del 95% o più sia nella mortalità che nell’incidenza sembrano possibili. Detto questo, il cancro è estremamente vario e adattabile, ed è probabilmente la più difficile di queste malattie da debellare completamente. Non sarebbe sorprendente se una serie di neoplasie rare e difficili da trattare persistessero.
Metodi di prevenzione e cura molto efficaci per le malattie genetiche . Il notevole miglioramento dello screening embrionale renderà probabilmente possibile prevenire la maggior parte delle malattie genetiche, e una versione più sicura e affidabile di CRISPR potrebbe curare la maggior parte delle malattie genetiche già esistenti. Le patologie che colpiscono tutto il corpo e un’ampia frazione di cellule potrebbero tuttavia rappresentare l’ultima frontiera della cura.
Prevenzione dell’Alzheimer . Abbiamo avuto molta difficoltà a capire cosa causi l’Alzheimer (è in qualche modo correlato alla proteina beta-amiloide, ma i dettagli sembrano essere molto complessi ). Sembra proprio il tipo di problema che può essere risolto con strumenti di misurazione migliori in grado di isolare gli effetti biologici; per questo sono ottimista sulla capacità dell’intelligenza artificiale di risolverlo. C’è una buona probabilità che alla fine si possa prevenire con interventi relativamente semplici, una volta che avremo effettivamente capito cosa sta succedendo. Detto questo, i danni causati dall’Alzheimer già presente potrebbero essere molto difficili da invertire.
Miglioramento del trattamento della maggior parte delle altre patologie . Questa categoria comprende diverse patologie, tra cui diabete, obesità, malattie cardiache, malattie autoimmuni e altro ancora. La maggior parte di queste sembra “più facile” da risolvere rispetto al cancro e all’Alzheimer e in molti casi si registra già un forte calo. Ad esempio, i decessi per malattie cardiache sono già diminuiti di oltre il 50% e interventi semplici come gli agonisti del GLP-1 hanno già ottenuto enormi progressi nella lotta contro l’obesità e il diabete.
Libertà biologica . Gli ultimi 70 anni hanno visto progressi nel controllo delle nascite, nella fertilità, nella gestione del peso e molto altro. Ma sospetto che la biologia accelerata dall’intelligenza artificiale amplierà enormemente ciò che è possibile: peso, aspetto fisico, riproduzione e altri processi biologici saranno completamente sotto il controllo delle persone. Ci riferiremo a questi aspetti sotto la voce libertà biologica: l’idea che ognuno dovrebbe avere la possibilità di scegliere cosa vuole diventare e vivere la propria vita nel modo che più gli piace. Ci saranno ovviamente importanti questioni sulla parità di accesso a livello globale; si veda la Sezione 3 per approfondirle.
Raddoppio della durata della vita umana ¹⁸Potrebbe sembrare radicale, ma l’aspettativa di vita è quasi raddoppiata nel XX secolo (da circa 40 anni a circa 75), quindi è “in linea con la tendenza” che il “XXI secolo compresso” la raddoppierà di nuovo fino a 150. Ovviamente gli interventi necessari per rallentare il processo di invecchiamento saranno diversi da quelli necessari nel secolo scorso per prevenire le morti premature (soprattutto infantili) dovute a malattie, ma l’entità del cambiamento non è senza precedenti ^.Concretamente, esistono già farmaci che aumentano la durata massima della vita nei ratti del 25-50% con effetti collaterali limitati. E alcuni animali (ad esempio alcune specie di tartarughe) vivono già 200 anni, quindi è evidente che gli esseri umani non hanno raggiunto un limite teorico. Probabilmente, la cosa più importante di cui c’è bisogno sono biomarcatori affidabili e non soggetti al test di Goodhart dell’invecchiamento umano, poiché ciò consentirebbe una rapida iterazione degli esperimenti e delle sperimentazioni cliniche. Una volta che la durata della vita umana raggiungerà i 150 anni, potremmo essere in grado di raggiungere la “velocità di fuga”, guadagnando tempo sufficiente affinché la maggior parte delle persone attualmente in vita possa vivere quanto desidera, sebbene non vi sia alcuna garanzia che ciò sia biologicamente possibile.

Vale la pena dare un’occhiata a questa lista e riflettere su quanto diverso sarà il mondo se tutti questi obiettivi venissero raggiunti tra 7-12 anni (il che sarebbe in linea con una tempistica ambiziosa per l’intelligenza artificiale). Va da sé che si tratterebbe di un trionfo umanitario inimmaginabile, l’eliminazione in un colpo solo della maggior parte dei flagelli che hanno afflitto l’umanità per millenni. Molti dei miei amici e colleghi stanno crescendo dei figli e spero che, quando saranno grandi, qualsiasi menzione di malattia suonerà loro come lo scorbuto, il vaiolo o la peste bubbonica suoneranno a noi. Quella generazione beneficerà anche di una maggiore libertà biologica e di una maggiore autoespressione e, con un po’ di fortuna, potrà vivere quanto desidera.

È difficile sopravvalutare quanto sorprendenti saranno questi cambiamenti per tutti tranne che per la piccola comunità di persone che si aspettavano un’intelligenza artificiale potente. Ad esempio, migliaia di economisti ed esperti di politica negli Stati Uniti stanno attualmente discutendo su come mantenere solvibili la previdenza sociale e Medicare e, più in generale, su come contenere i costi dell’assistenza sanitaria (che gravano principalmente sugli over 70 e soprattutto su coloro che sono affetti da malattie terminali come il cancro). La situazione di questi programmi potrebbe migliorare radicalmente se tutto ciò si concretizzasse entro ^{20 anni.}poiché il rapporto tra popolazione in età lavorativa e popolazione pensionata cambierà drasticamente. Senza dubbio queste sfide saranno sostituite da altre, come ad esempio come garantire un accesso diffuso alle nuove tecnologie, ma vale la pena riflettere su quanto cambierà il mondo anche se la biologia fosse l’

unico settore a beneficiare di un’accelerazione significativa grazie all’intelligenza artificiale.

2. Neuroscienze e mente

Nella sezione precedente mi sono concentrato sulle malattie fisiche e sulla biologia in generale, e non ho trattato le neuroscienze o la salute mentale. Ma le neuroscienze sono una sottodisciplina della biologia e la salute mentale è altrettanto importante quanto la salute fisica. Anzi, semmai, la salute mentale influenza il benessere umano in modo ancora più diretto della salute fisica. Centinaia di milioni di persone hanno una qualità della vita molto bassa a causa di problemi come dipendenza, depressione, schizofrenia, autismo a basso funzionamento, PTSD, psicopatia ^. o disabilità intellettive. Miliardi di altre persone lottano con problemi quotidiani che spesso possono essere interpretati come versioni molto più lievi di uno di questi gravi disturbi clinici. E, come per la biologia in generale, potrebbe essere possibile andare oltre la semplice risoluzione dei problemi per migliorare la qualità di base dell’esperienza umana.

Il quadro di riferimento di base che ho delineato per la biologia si applica ugualmente alle neuroscienze. Il campo è spinto in avanti da un numero limitato di scoperte, spesso legate a strumenti di misurazione o di intervento preciso: nell’elenco di quelle citate, l’optogenetica è stata una scoperta nel campo delle neuroscienze, e più recentemente CLARITY e la microscopia a espansione rappresentano progressi nella stessa direzione, oltre a molti metodi generali di biologia cellulare che si trasferiscono direttamente alle neuroscienze. Credo che il ritmo di questi progressi sarà accelerato in modo simile dall’intelligenza artificiale e che, pertanto, il modello di “100 anni di progressi in 5-10 anni” si applichi alle neuroscienze nello stesso modo in cui si applica alla biologia e per le stesse ragioni. Come in biologia, i progressi nelle neuroscienze del XX secolo sono stati enormi: ad esempio, non abbiamo nemmeno capito come o perché i neuroni si attivassero fino agli anni ’50 . Pertanto, sembra ragionevole aspettarsi che le neuroscienze accelerate dall’intelligenza artificiale producano rapidi progressi in pochi anni.

A questo quadro di base dovremmo aggiungere un elemento: alcune delle cose che abbiamo imparato (o stiamo imparando) sull’IA stessa negli ultimi anni probabilmente contribuiranno al progresso delle neuroscienze, anche se continueranno a essere svolte solo dagli esseri umani. L’interpretabilità ne è un esempio lampante: sebbene i neuroni biologici operino superficialmente in modo completamente diverso dai neuroni artificiali (comunicano tramite impulsi e spesso con frequenze di impulso, quindi è presente un elemento temporale assente nei neuroni artificiali, e una serie di dettagli relativi alla fisiologia cellulare e ai neurotrasmettitori ne modificano sostanzialmente il funzionamento), la questione fondamentale di “come le reti distribuite e addestrate di unità semplici che eseguono operazioni lineari/non lineari combinate collaborano per eseguire calcoli importanti” rimane la stessa, e sospetto fortemente che i dettagli della comunicazione dei singoli neuroni saranno astratti nella maggior parte delle domande interessanti sul calcolo e sui circuiti ^.A titolo di esempio, un meccanismo computazionale scoperto dai ricercatori nel campo dell’interpretabilità dei sistemi di intelligenza artificiale è stato recentemente riscoperto nel cervello dei topi.

È molto più facile condurre esperimenti su reti neurali artificiali che su quelle reali (queste ultime spesso richiedono interventi chirurgici sul cervello degli animali), quindi l’interpretabilità potrebbe benissimo diventare uno strumento per migliorare la nostra comprensione delle neuroscienze. Inoltre, è probabile che le intelligenze artificiali più potenti saranno in grado di sviluppare e applicare questo strumento meglio degli esseri umani.

Al di là della mera interpretabilità, ciò che abbiamo imparato dall’IA su come vengono addestrati i sistemi intelligenti dovrebbe (anche se non sono sicuro che sia ancora successo ) provocare una rivoluzione nelle neuroscienze. Quando lavoravo nel campo delle neuroscienze, molti si concentravano su quelle che oggi considererei le domande sbagliate sull’apprendimento, perché il concetto di ipotesi di scalatura / lezione amara non esisteva ancora. L’idea che una semplice funzione obiettivo, unita a una grande quantità di dati, possa guidare comportamenti incredibilmente complessi, rende più interessante comprendere le funzioni obiettivo e i bias architetturali, e meno interessante comprendere i dettagli dei calcoli emergenti. Non ho seguito da vicino il settore negli ultimi anni, ma ho la vaga sensazione che i neuroscienziati computazionali non abbiano ancora pienamente assimilato la lezione. Il mio atteggiamento nei confronti dell’ipotesi di scalatura è sempre stato “ecco, questa è una spiegazione, a un livello generale, di come funziona l’intelligenza e di come si sia evoluta così facilmente”, ma non credo che questa sia l’opinione del neuroscienziato medio, in parte perché l’ipotesi di scalatura come “il segreto dell’intelligenza” non è pienamente accettata nemmeno all’interno dell’IA.

Credo che i neuroscienziati dovrebbero cercare di combinare questa intuizione di base con le peculiarità del cervello umano (limitazioni biofisiche, storia evolutiva, topologia, dettagli degli input/output motori e sensoriali) per tentare di risolvere alcuni dei principali enigmi delle neuroscienze. Probabilmente alcuni lo stanno già facendo, ma sospetto che non sia ancora sufficiente e che i neuroscienziati specializzati in intelligenza artificiale saranno in grado di sfruttare questo approccio in modo più efficace per accelerare i progressi.

Mi aspetto che l’intelligenza artificiale acceleri il progresso neuroscientifico lungo quattro percorsi distinti, che, si spera, possano collaborare per curare le malattie mentali e migliorare le funzioni cognitive:

Biologia molecolare tradizionale, chimica e genetica . Si tratta essenzialmente della stessa storia della biologia generale descritta nella Sezione 1, e l’intelligenza artificiale (IA) può probabilmente accelerarla attraverso gli stessi meccanismi. Esistono molti farmaci che modulano i neurotrasmettitori per alterare la funzione cerebrale, influenzare la vigilanza o la percezione, modificare l’umore, ecc., e l’IA può aiutarci a inventarne molti altri. L’IA può probabilmente anche accelerare la ricerca sulle basi genetiche delle malattie mentali.
Misurazione e intervento neurale di precisione . Si tratta della capacità di misurare l’attività di un gran numero di singoli neuroni o circuiti neuronali e di intervenire per modificarne il comportamento. L’optogenetica e le sonde neurali sono tecnologie in grado sia di misurare che di intervenire su organismi viventi, e sono stati proposti diversi metodi molto avanzati (come i nastri di conteggio molecolare per leggere i pattern di attivazione di un gran numero di singoli neuroni) , che sembrano in linea di principio realizzabili.
Neuroscienze computazionali avanzate . Come accennato in precedenza, sia le intuizioni specifiche che l’ approccio olistico dell’IA moderna possono probabilmente essere applicati con successo a questioni di neuroscienze dei sistemi , tra cui forse la scoperta delle vere cause e dinamiche di malattie complesse come la psicosi o i disturbi dell’umore.
Interventi comportamentali . Non ne ho parlato molto, dato che mi sono concentrato sull’aspetto biologico delle neuroscienze, ma la psichiatria e la psicologia hanno ovviamente sviluppato un ampio repertorio di interventi comportamentali nel corso del XX secolo; è logico pensare che l’IA potrebbe accelerare anche questi, sia lo sviluppo di nuovi metodi sia l’aiuto ai pazienti nell’aderire ai metodi esistenti. Più in generale, l’idea di un “coach IA” che ti aiuti sempre a essere la versione migliore di te stesso, che studi le tue interazioni e ti aiuti a imparare a essere più efficace, sembra molto promettente.

A mio avviso, queste quattro vie di progresso, lavorando insieme, come nel caso delle malattie fisiche, sarebbero sulla buona strada per portare alla cura o alla prevenzione della maggior parte delle malattie mentali nei prossimi 100 anni, anche senza l’intervento dell’IA – e quindi potrebbero ragionevolmente essere completate in 5-10 anni con l’accelerazione dell’IA. Concretamente, la mia ipotesi su ciò che accadrà è qualcosa del genere:

Probabilmente la maggior parte delle malattie mentali è curabile . Non sono un esperto di malattie psichiatriche (il mio periodo nel campo delle neuroscienze è stato dedicato alla costruzione di sonde per studiare piccoli gruppi di neuroni), ma credo che malattie come il disturbo da stress post-traumatico, la depressione, la schizofrenia, la dipendenza, ecc. possano essere comprese e trattate in modo molto efficace attraverso una combinazione delle quattro direzioni sopra menzionate. La risposta probabilmente risiede in una combinazione di “qualcosa è andato storto a livello biochimico” (anche se potrebbe essere molto complesso) e “qualcosa è andato storto a livello della rete neurale, ad un livello superiore”. In altre parole, si tratta di una questione di neuroscienze sistemiche, sebbene ciò non sminuisca l’impatto degli interventi comportamentali discussi in precedenza. Gli strumenti di misurazione e intervento, soprattutto sugli esseri umani viventi, sembrano destinati a portare a rapidi progressi e a una rapida iterazione.
Le condizioni che sono molto “strutturali” potrebbero essere più difficili da trattare, ma non impossibili . Alcune evidenze suggeriscono che la psicopatia sia associata a evidenti differenze neuroanatomiche: alcune regioni cerebrali sarebbero semplicemente più piccole o meno sviluppate negli psicopatici. Si ritiene inoltre che gli psicopatici manchino di empatia fin dalla giovane età; qualunque sia la differenza nel loro cervello, probabilmente è sempre stata così. Lo stesso potrebbe valere per alcune disabilità intellettive e forse per altre condizioni. Ristrutturare il cervello sembra difficile, ma appare anche un compito che offre un elevato ritorno in termini di intelligenza. Forse esiste un modo per indurre il cervello adulto in uno stato più precoce o più plastico, in cui possa essere rimodellato. Non sono certo di quanto ciò sia possibile, ma il mio istinto mi porta a essere ottimista su ciò che l’intelligenza artificiale potrà inventare in questo campo.
Sembra possibile una prevenzione genetica efficace delle malattie mentali . La maggior parte delle malattie mentali è parzialmente ereditaria e gli studi di associazione a livello genomico (GWAS) stanno iniziando a dare risultati concreti nell’identificazione dei fattori rilevanti, che spesso sono numerosi. Probabilmente sarà possibile prevenire la maggior parte di queste malattie attraverso lo screening embrionale, in modo simile a quanto avviene per le malattie fisiche. Una differenza è che le malattie psichiatriche hanno maggiori probabilità di essere poligeniche (contribuiscono molti geni), quindi, a causa della loro complessità, aumenta il rischio di selezionare inconsapevolmente contro tratti positivi correlati alla malattia . Stranamente, tuttavia, negli ultimi anni gli studi GWAS sembrano suggerire che queste correlazioni potrebbero essere state sovrastimate. In ogni caso, le neuroscienze accelerate dall’intelligenza artificiale potrebbero aiutarci a fare chiarezza su questi aspetti. Naturalmente, lo screening embrionale per tratti complessi solleva una serie di questioni sociali e sarà controverso, anche se presumo che la maggior parte delle persone sia favorevole allo screening per le malattie mentali gravi o invalidanti.
Anche i problemi quotidiani che non consideriamo malattie cliniche verranno risolti . La maggior parte di noi ha problemi psicologici quotidiani che normalmente non vengono considerati malattie cliniche. Alcune persone si arrabbiano facilmente, altre hanno difficoltà di concentrazione o sono spesso assonnate, altre ancora sono timorose o ansiose, o reagiscono male ai cambiamenti. Oggi esistono già farmaci che aiutano, ad esempio, a migliorare la vigilanza o la concentrazione (caffeina, modafinil, ritalin), ma come in molti altri ambiti, è probabile che si possa fare molto di più. Probabilmente esistono molti altri farmaci di questo tipo che non sono ancora stati scoperti, e potrebbero esserci anche modalità di intervento completamente nuove, come la stimolazione luminosa mirata (vedi optogenetica sopra) o i campi magnetici. Considerando quanti farmaci abbiamo sviluppato nel XX secolo per modulare le funzioni cognitive e lo stato emotivo, sono molto ottimista riguardo al “XXI secolo compresso” in cui tutti potranno far funzionare meglio il proprio cervello e avere un’esperienza quotidiana più appagante.
L’esperienza umana di base può essere molto migliore . Andando oltre, molte persone hanno vissuto momenti straordinari di rivelazione, ispirazione creativa, compassione, appagamento, trascendenza, amore, bellezza o pace meditativa. La natura e la frequenza di queste esperienze variano notevolmente da persona a persona e nella stessa persona in momenti diversi, e a volte possono anche essere innescate da vari farmaci (sebbene spesso con effetti collaterali). Tutto ciò suggerisce che lo “spazio di ciò che è possibile sperimentare” è molto ampio e che una parte maggiore della vita delle persone potrebbe essere costituita da questi momenti straordinari. È probabilmente anche possibile migliorare diverse funzioni cognitive in generale. Questa è forse la versione neuroscientifica della “libertà biologica” o dell'”allungamento della durata della vita”.

Un tema che ricorre spesso nelle rappresentazioni fantascientifiche dell’intelligenza artificiale, ma che ho volutamente omesso in questa sede, è il “caricamento della mente”, ovvero l’idea di catturare i modelli e le dinamiche di un cervello umano e riprodurli in un software. Questo argomento potrebbe essere oggetto di un saggio a sé stante, ma basti dire che, sebbene io ritenga che il caricamento sia quasi certamente possibile in linea di principio, in pratica si scontra con significative sfide tecnologiche e sociali, anche con un’intelligenza artificiale potente, che probabilmente lo collocano al di fuori della finestra temporale di 5-10 anni di cui stiamo parlando.

In sintesi, le neuroscienze accelerate dall’intelligenza artificiale probabilmente miglioreranno enormemente i trattamenti per la maggior parte delle malattie mentali, o addirittura le cureranno, oltre ad ampliare notevolmente la “libertà cognitiva e mentale” e le capacità cognitive ed emotive umane. Sarà un cambiamento altrettanto radicale quanto i miglioramenti nella salute fisica descritti nella sezione precedente. Forse il mondo non sarà visibilmente diverso dall’esterno, ma il mondo, così come viene vissuto dagli esseri umani, sarà un luogo molto migliore e più umano, nonché un luogo che offre maggiori opportunità di autorealizzazione. Sospetto inoltre che il miglioramento della salute mentale attenuerà molti altri problemi sociali, compresi quelli che sembrano di natura politica o economica.

3. Sviluppo economico e povertà

Le due sezioni precedenti trattano dello sviluppo di nuove tecnologie per curare le malattie e migliorare la qualità della vita umana. Tuttavia, da una prospettiva umanitaria, sorge spontanea la domanda: “Tutti avranno accesso a queste tecnologie?”.

Una cosa è sviluppare una cura per una malattia, un’altra è sradicarla dal mondo. Più in generale, molti interventi sanitari esistenti non sono ancora stati applicati ovunque nel mondo, e lo stesso vale per i progressi tecnologici (non sanitari) in generale. In altre parole, il tenore di vita in molte parti del mondo è ancora estremamente basso: il PIL pro capite è di circa 2.000 dollari nell’Africa subsahariana, contro i circa 75.000 dollari degli Stati Uniti. Se l’intelligenza artificiale aumentasse ulteriormente la crescita economica e la qualità della vita nel mondo sviluppato, facendo ben poco per aiutare il mondo in via di sviluppo, dovremmo considerarlo un terribile fallimento morale e una macchia sulle autentiche vittorie umanitarie descritte nelle due sezioni precedenti. Idealmente, una potente intelligenza artificiale dovrebbe aiutare il mondo in via di sviluppo a raggiungere il livello del mondo sviluppato, rivoluzionandolo al contempo.

Non sono altrettanto convinto che l’IA possa affrontare la disuguaglianza e la crescita economica quanto lo sono che possa inventare tecnologie fondamentali, perché la tecnologia offre rendimenti così elevati all’intelligenza (inclusa la capacità di aggirare le complessità e la mancanza di dati), mentre l’economia implica molti vincoli da parte degli esseri umani, oltre a una grande dose di complessità intrinseca. Sono alquanto scettico sul fatto che un’IA possa risolvere il famoso ” problema del calcolo socialista ” ²³

E non credo che i governi affideranno (o dovrebbero affidare) la loro politica economica a un’entità del genere, anche se ne avessero la possibilità. Ci sono poi problemi come convincere le persone ad accettare trattamenti efficaci ma di cui potrebbero diffidare.

Le sfide che il mondo in via di sviluppo si trova ad affrontare sono rese ancora più complesse dalla corruzione dilagante sia nel settore privato che in quello pubblico. La corruzione crea un circolo vizioso: esacerba la povertà , e la povertà a sua volta alimenta ulteriore corruzione. I piani di sviluppo economico basati sull’intelligenza artificiale devono fare i conti con la corruzione, la debolezza delle istituzioni e altre sfide prettamente umane.

Ciononostante, vedo validi motivi di ottimismo. Malattie sono state debellate e molti paesi sono passati dalla povertà alla ricchezza, ed è chiaro che le decisioni implicate in questi compiti mostrano un elevato ritorno sull’investimento in termini di intelligenza (nonostante i limiti e la complessità umana). Pertanto, è probabile che l’IA possa svolgere questi compiti meglio di quanto avvenga attualmente. Potrebbero esserci anche interventi mirati che aggirino i limiti umani e sui quali l’IA potrebbe concentrarsi. Ma soprattutto, dobbiamo provarci. Sia le aziende che operano nel settore dell’IA sia i responsabili politici dei paesi sviluppati dovranno fare la loro parte per garantire che il mondo in via di sviluppo non venga lasciato indietro; l’imperativo morale è troppo grande. Quindi, in questa sezione, continuerò a sostenere la tesi ottimistica, ma tenendo sempre presente che il successo non è garantito e dipende dai nostri sforzi collettivi.

Di seguito, formulo alcune ipotesi su come potrebbero evolversi le cose nei paesi in via di sviluppo nei 5-10 anni successivi allo sviluppo di un’intelligenza artificiale potente:

Distribuzione degli interventi sanitari . L’area in cui sono forse più ottimista è la distribuzione degli interventi sanitari in tutto il mondo. Le malattie sono state effettivamente eradicate da campagne dall’alto verso il basso: il vaiolo è stato completamente eliminato negli anni ’70, e la poliomielite e la dracunculiasi sono quasi eradicate con meno di 100 casi all’anno. La modellizzazione epidemiologica matematicamente sofisticata gioca un ruolo attivo nelle campagne di eradicazione delle malattie, e sembra molto probabile che ci sia spazio per sistemi di intelligenza artificiale più intelligenti degli umani per fare un lavoro migliore di quello che fanno gli umani. Anche la logistica della distribuzione può probabilmente essere notevolmente ottimizzata. Una cosa che ho imparato come uno dei primi donatori di GiveWell è che alcune organizzazioni benefiche sanitarie sono molto più efficaci di altre; la speranza è che gli sforzi accelerati dall’IA siano ancora più efficaci. Inoltre, alcuni progressi biologici rendono effettivamente la logistica della distribuzione molto più semplice: ad esempio, la malaria è stata difficile da eradicare perché richiede un trattamento ogni volta che la malattia viene contratta; Un vaccino che deve essere somministrato una sola volta semplifica notevolmente la logistica (e tali vaccini contro la malaria sono attualmente in fase di sviluppo ). Sono possibili meccanismi di distribuzione ancora più semplici: alcune malattie potrebbero in linea di principio essere eradicate prendendo di mira i loro vettori animali, ad esempio rilasciando zanzare infette da un batterio che blocca la loro capacità di trasmettere una malattia (che poi infettano tutte le altre zanzare) o semplicemente utilizzando la tecnologia gene drive per sterminare le zanzare. Ciò richiede una o poche azioni centralizzate, piuttosto che una campagna coordinata che deve trattare individualmente milioni di persone. Nel complesso, penso che 5-10 anni siano un lasso di tempo ragionevole affinché una buona parte (forse il 50%) dei benefici per la salute derivanti dall’IA si propaghi anche ai paesi più poveri del mondo. Un buon obiettivo potrebbe essere che il mondo in via di sviluppo, 5-10 anni dopo l’avvento di una potente IA, sia almeno sostanzialmente più sano del mondo sviluppato di oggi, anche se dovesse continuare a rimanere indietro rispetto a quest’ultimo. Il raggiungimento di questo obiettivo richiederà ovviamente un enorme sforzo in ambito di salute globale, filantropia, attività di sensibilizzazione politica e molte altre iniziative, alle quali dovrebbero contribuire sia gli sviluppatori di intelligenza artificiale che i responsabili politici.
Crescita economica . Il mondo in via di sviluppo può recuperare rapidamente il divario con il mondo sviluppato, non solo in ambito sanitario, ma anche economicamente in generale? Esistono dei precedenti: negli ultimi decenni del XX secolo, diverse economie dell’Asia orientale hanno raggiunto tassi di crescita del PIL reale annui sostenuti intorno al 10%, consentendo loro di raggiungere il mondo sviluppato. I pianificatori economici umani hanno preso le decisioni che hanno portato a questo successo, non controllando direttamente intere economie, ma agendo su alcune leve chiave (come una politica industriale di crescita trainata dalle esportazioni e la resistenza alla tentazione di dipendere dalle risorse naturali); è plausibile che “ministri delle finanze e banchieri centrali basati sull’intelligenza artificiale” possano replicare o superare questo risultato del 10%. Una questione importante è come convincere i governi del mondo in via di sviluppo ad adottare tali sistemi, nel rispetto del principio di autodeterminazione: alcuni potrebbero essere entusiasti, ma altri probabilmente saranno scettici. Sul versante ottimistico, molti degli interventi sanitari menzionati nel punto precedente potrebbero incrementare organicamente la crescita economica: l’eradicazione dell’AIDS, della malaria e dei parassiti intestinali avrebbe un effetto trasformativo sulla produttività, per non parlare dei benefici economici che alcuni interventi nel campo delle neuroscienze (come il miglioramento dell’umore e della concentrazione) apporterebbero sia nei paesi sviluppati che in quelli in via di sviluppo. Infine, le tecnologie accelerate dall’IA in settori non sanitari (come le tecnologie energetiche, i droni per il trasporto, i materiali da costruzione migliorati, la logistica e la distribuzione più efficienti, e così via) potrebbero semplicemente diffondersi naturalmente nel mondo; ad esempio, anche i telefoni cellulari si sono rapidamente diffusi nell’Africa subsahariana attraverso meccanismi di mercato, senza bisogno di sforzi filantropici. Sul versante più negativo, sebbene l’IA e l’automazione offrano molti potenziali vantaggi, pongono anche delle sfide allo sviluppo economico, in particolare per i paesi che non si sono ancora industrializzati. Trovare il modo di garantire che questi paesi possano comunque svilupparsi e migliorare le proprie economie in un’era di crescente automazione è una sfida importante che economisti e politici devono affrontare. Nel complesso, uno scenario ideale – forse un obiettivo a cui puntare – sarebbe un tasso di crescita annuo del PIL del 20% nei paesi in via di sviluppo, con il 10% derivante ciascuno dalle decisioni economiche basate sull’intelligenza artificiale e dalla naturale diffusione di tecnologie accelerate dall’IA, tra cui, a titolo esemplificativo, il settore sanitario. Se raggiunto, questo obiettivo porterebbe l’Africa subsahariana al livello attuale del PIL pro capite della Cina in 5-10 anni, elevando al contempo gran parte del resto del mondo in via di sviluppo a livelli superiori all’attuale PIL degli Stati Uniti. Ripeto, questo è uno scenario ideale, non qualcosa che si verifica automaticamente: è un obiettivo per il quale dobbiamo collaborare tutti insieme per renderlo più probabile.
Sicurezza alimentare ^{24 ore su 24}I progressi nella tecnologia agricola, come fertilizzanti e pesticidi migliori, maggiore automazione e un uso più efficiente del suolo, hanno aumentato drasticamente le rese agricole nel corso del XX secolo, salvando milioni di persone dalla fame. L’ingegneria genetica sta attualmente migliorando ulteriormente molte colture. Trovare ulteriori modi per farlo, nonché per rendere le filiere agricole ancora più efficienti, potrebbe darci una seconda Rivoluzione Verde guidata dall’intelligenza artificiale , contribuendo a colmare il divario tra il mondo in via di sviluppo e quello sviluppato.
Mitigare il cambiamento climatico . Il cambiamento climatico si farà sentire in modo molto più intenso nei paesi in via di sviluppo, ostacolandone la crescita. Possiamo aspettarci che l’intelligenza artificiale porti a miglioramenti nelle tecnologie che rallentano o prevengono il cambiamento climatico, dalla rimozione del carbonio atmosferico e dalle tecnologie per le energie pulite alla carne coltivata in laboratorio , che riduce la nostra dipendenza dall’allevamento intensivo ad alta intensità di carbonio. Naturalmente, come discusso in precedenza, la tecnologia non è l’unico fattore che limita i progressi nella lotta al cambiamento climatico: come per tutte le altre questioni trattate in questo saggio, i fattori sociali umani sono importanti. Ma ci sono buone ragioni per pensare che la ricerca potenziata dall’intelligenza artificiale ci fornirà i mezzi per rendere la mitigazione del cambiamento climatico molto meno costosa e dirompente, rendendo irrilevanti molte delle obiezioni e consentendo ai paesi in via di sviluppo di realizzare maggiori progressi economici.
Disuguaglianza all’interno dei paesi . Ho parlato principalmente di disuguaglianza come fenomeno globale (che ritengo sia la sua manifestazione più importante), ma ovviamente la disuguaglianza esiste anche all’interno dei paesi. Con interventi sanitari avanzati e soprattutto con aumenti radicali dell’aspettativa di vita o farmaci per il potenziamento cognitivo, ci saranno certamente valide preoccupazioni sul fatto che queste tecnologie siano “solo per i ricchi”. Sono più ottimista riguardo alla disuguaglianza all’interno dei paesi, soprattutto nel mondo sviluppato, per due motivi. In primo luogo, i mercati funzionano meglio nel mondo sviluppato e i mercati sono in genere bravi a ridurre il costo delle tecnologie ad alto valore nel tempo ^.In secondo luogo, le istituzioni politiche del mondo sviluppato sono più sensibili alle esigenze dei propri cittadini e dispongono di una maggiore capacità statale di attuare programmi di accesso universale, e mi aspetto che i cittadini richiedano l’accesso a tecnologie che migliorano radicalmente la qualità della vita. Naturalmente, non è scontato che tali richieste vengano accolte, e anche in questo caso dobbiamo fare tutto il possibile collettivamente per garantire una società equa. Esiste poi un problema distinto, quello della disuguaglianza di ricchezza (a differenza della disuguaglianza di accesso a tecnologie salvavita e che migliorano la qualità della vita), che sembra più complesso e che tratterò nella Sezione 5.
Il problema dell’opt-out . Una preoccupazione, sia nei paesi sviluppati che in quelli in via di sviluppo, è che le persone scelgano di rinunciare ai benefici offerti dall’IA (similmente al movimento antivaccinista o, più in generale, ai movimenti luddisti). Si potrebbero innescare circoli viziosi in cui, ad esempio, le persone meno capaci di prendere decisioni efficaci rinunciano proprio alle tecnologie che migliorano le loro capacità decisionali, portando a un divario sempre crescente e persino alla creazione di una sottoclasse distopica (alcuni ricercatori sostengono che ciò minerebbe la democrazia , un argomento che approfondirò nella prossima sezione). Questo, ancora una volta, getterebbe un’ombra morale sui progressi positivi dell’IA. Si tratta di un problema difficile da risolvere, poiché non ritengo eticamente accettabile costringere le persone, ma possiamo almeno cercare di accrescere la comprensione scientifica delle persone – e forse l’IA stessa può aiutarci in questo. Un segnale incoraggiante è che storicamente i movimenti anti-tecnologia si sono concentrati più sulle minacce che sui fatti: inveire contro la tecnologia moderna è popolare, ma la maggior parte delle persone alla fine la adotta, almeno quando si tratta di una scelta individuale. Gli individui tendono ad adottare la maggior parte delle tecnologie sanitarie e di consumo, mentre le tecnologie che vengono realmente ostacolate, come l’energia nucleare, tendono a essere il risultato di decisioni politiche collettive.

Nel complesso, sono ottimista sulla possibilità di estendere rapidamente i progressi biologici dell’IA alle popolazioni dei paesi in via di sviluppo. Nutro la speranza, pur non essendo certo, che l’IA possa anche consentire tassi di crescita economica senza precedenti e permettere ai paesi in via di sviluppo di superare almeno il livello raggiunto dai paesi sviluppati. Sono preoccupato per il problema del “rifiuto” dell’IA, presente sia nei paesi sviluppati che in quelli in via di sviluppo, ma sospetto che si attenuerà nel tempo e che l’IA potrà contribuire ad accelerare questo processo. Non sarà un mondo perfetto e chi è rimasto indietro non riuscirà a recuperare completamente, almeno non nei primi anni. Ma con un impegno concreto da parte nostra, potremmo riuscire a muovere le cose nella giusta direzione, e in fretta. Se ci riusciremo, potremo almeno dare un primo contributo alle promesse di dignità e uguaglianza che dobbiamo a ogni essere umano sulla Terra.

4. Pace e buon governo

Supponiamo che tutto vada per il meglio nelle prime tre sezioni: malattie, povertà e disuguaglianza si riducono significativamente e il livello di vita umano si innalza sostanzialmente. Non ne consegue che tutte le principali cause di sofferenza umana vengano risolte. Gli esseri umani rappresentano ancora una minaccia gli uni per gli altri . Sebbene vi sia una tendenza al progresso tecnologico e allo sviluppo economico che conduce alla democrazia e alla pace , si tratta di una tendenza molto debole, con frequenti (e recenti ) passi indietro. Agli albori del XX secolo, si pensava di essersi lasciati la guerra alle spalle; poi arrivarono le due guerre mondiali. Trent’anni fa Francis Fukuyama scrisse della ” Fine della Storia ” e di un trionfo finale della democrazia liberale; ciò non è ancora accaduto. Vent’anni fa i politici statunitensi credevano che il libero scambio con la Cina l’avrebbe portata alla liberalizzazione man mano che si arricchiva; questo non è affatto successo, e ora sembriamo diretti verso una seconda Guerra Fredda con un blocco autoritario in ripresa. E teorie plausibili suggeriscono che la tecnologia di Internet potrebbe in realtà favorire l’autoritarismo , non la democrazia come inizialmente si credeva (ad esempio durante il periodo della “Primavera araba”). Sembra importante cercare di capire in che modo l’intelligenza artificiale, pur essendo potente, si intersecherà con queste tematiche di pace, democrazia e libertà.

Purtroppo, non vedo validi motivi per credere che l’intelligenza artificiale (IA) favorirà in modo preferenziale o strutturale la democrazia e la pace, allo stesso modo in cui credo che favorirà la salute umana e allevierà la povertà. I conflitti umani sono per loro natura conflittuali e l’IA, in linea di principio, può aiutare sia i “buoni” che i “cattivi”. Anzi, alcuni fattori strutturali sembrano preoccupanti: l’IA sembra destinata a rendere la propaganda e la sorveglianza molto più efficaci, entrambi strumenti fondamentali nell’arsenale degli autocrati. Sta quindi a noi, come singoli individui, orientare le cose nella giusta direzione: se vogliamo che l’IA favorisca la democrazia e i diritti individuali, dovremo lottare per questo risultato. Sono ancora più convinto di questo che della disuguaglianza internazionale: il trionfo della democrazia liberale e della stabilità politica non è garantito, forse nemmeno probabile, e richiederà grandi sacrifici e impegno da parte di tutti noi, come spesso è accaduto in passato.

Ritengo che la questione si divida in due aspetti: il conflitto internazionale e la struttura interna delle nazioni. Sul piano internazionale, mi sembra fondamentale che le democrazie abbiano la supremazia sulla scena mondiale quando si sviluppa un’intelligenza artificiale potente. L’autoritarismo basato sull’IA appare un’ipotesi troppo terribile da contemplare, quindi le democrazie devono essere in grado di stabilire le condizioni con cui l’IA potente viene introdotta nel mondo, sia per evitare di essere sopraffatte dai regimi autoritari, sia per prevenire violazioni dei diritti umani all’interno dei paesi autoritari.

La mia ipotesi attuale sul modo migliore per farlo è attraverso una “strategia di intesa” ²⁶In questo scenario, una coalizione di democrazie cerca di ottenere un chiaro vantaggio (anche solo temporaneo) sull’intelligenza artificiale (IA) potenziata, assicurandosi la sua catena di approvvigionamento, scalando rapidamente le proprie capacità e

bloccando o ritardando l’accesso degli avversari a risorse chiave come chip e apparecchiature per semiconduttori. Questa coalizione, da un lato, utilizzerebbe l’IA per raggiungere una solida superiorità militare (il bastone), offrendo al contempo di distribuire i benefici di un’IA potente (la carota) a un gruppo sempre più ampio di paesi in cambio del sostegno alla strategia della coalizione per promuovere la democrazia (un’analogia con ”

Atomi per la Pace “). L’obiettivo della coalizione sarebbe quello di ottenere il supporto di un numero sempre maggiore di paesi, isolando i suoi peggiori avversari e, infine, costringendoli ad accettare lo stesso patto del resto del mondo: rinunciare a competere con le democrazie per ricevere tutti i benefici e non combattere un nemico superiore.

Se riusciremo a fare tutto questo, avremo un mondo in cui le democrazie saranno protagoniste sulla scena mondiale e avranno la forza economica e militare per evitare di essere indebolite, conquistate o sabotate dalle autocrazie, e potrebbero persino trasformare la loro superiorità nell’IA in un vantaggio duraturo. Questo potrebbe, in un’ottica ottimistica, portare a un “eterno 1991”: un mondo in cui le democrazie avranno il sopravvento e i sogni di Fukuyama si realizzeranno. Anche in questo caso, sarà molto difficile da raggiungere e richiederà in particolare una stretta collaborazione tra le aziende private di IA e i governi democratici, nonché decisioni straordinariamente sagge sull’equilibrio tra incentivi e sanzioni.

Anche se tutto ciò dovesse andare per il meglio, rimane aperta la questione della lotta tra democrazia e autocrazia all’interno di ciascun paese. È ovviamente difficile prevedere cosa accadrà, ma nutro un certo ottimismo sul fatto che, in un contesto globale in cui le democrazie controllano l’intelligenza artificiale più potente, quest’ultima potrebbe effettivamente favorire strutturalmente la democrazia ovunque. In particolare, in tale contesto i governi democratici potrebbero utilizzare la loro intelligenza artificiale superiore per vincere la guerra dell’informazione: potrebbero contrastare le operazioni di influenza e propaganda delle autocrazie e persino creare un ambiente informativo globalmente libero, fornendo canali di informazione e servizi di intelligenza artificiale in un modo che le autocrazie non hanno la capacità tecnica di bloccare o monitorare. Probabilmente non sarebbe necessario diffondere propaganda, ma solo contrastare attacchi malevoli e sbloccare il libero flusso di informazioni. Sebbene non immediato, un contesto di parità di condizioni come questo ha buone probabilità di orientare gradualmente la governance globale verso la democrazia, per diverse ragioni.

Innanzitutto, i miglioramenti nella qualità della vita descritti nelle Sezioni 1-3 dovrebbero, a parità di condizioni, promuovere la democrazia: storicamente, almeno in una certa misura, lo hanno fatto. In particolare, mi aspetto che i miglioramenti in materia di salute mentale, benessere e istruzione rafforzino la democrazia, poiché tutti e tre questi aspetti sono correlati negativamente con il sostegno ai leader autoritari. In generale, le persone desiderano una maggiore libertà di espressione quando i loro altri bisogni sono soddisfatti, e la democrazia è, tra le altre cose, una forma di autoespressione. Al contrario, l’autoritarismo prospera sulla paura e sul risentimento.

In secondo luogo, è molto probabile che la libera informazione mini davvero l’autoritarismo, a patto che gli autoritari non possano censurarla. Inoltre, un’intelligenza artificiale non censurata potrebbe fornire ai singoli individui potenti strumenti per contrastare i governi repressivi. I governi repressivi sopravvivono negando alla popolazione un certo tipo di conoscenza comune, impedendo loro di rendersi conto che “il re è nudo”. Ad esempio, Srđa Popović , che ha contribuito a rovesciare il governo di Milošević in Serbia, ha scritto ampiamente sulle tecniche per derubare psicologicamente gli autoritari del loro potere, per spezzare l’incantesimo e mobilitare il sostegno contro un dittatore. Una versione sovrumana dell’intelligenza artificiale di Popović (le cui capacità sembrano avere un elevato ritorno sull’intelligenza) a disposizione di tutti, un’intelligenza che i dittatori non possono bloccare o censurare, potrebbe dare slancio ai dissidenti e ai riformatori di tutto il mondo. Lo ripeto, sarà una lotta lunga e ardua, la cui vittoria non è scontata, ma se progetteremo e svilupperemo l’intelligenza artificiale nel modo giusto, potrebbe quantomeno essere una battaglia in cui i difensori della libertà in tutto il mondo avranno un vantaggio.

Come nel campo delle neuroscienze e della biologia, possiamo anche chiederci come le cose potrebbero essere “migliori del normale”, non solo come evitare l’autocrazia, ma come rendere le democrazie migliori di come sono oggi. Anche all’interno delle democrazie, le ingiustizie sono all’ordine del giorno. Le società basate sullo stato di diritto promettono ai propri cittadini che tutti saranno uguali di fronte alla legge e che tutti avranno diritto ai diritti umani fondamentali, ma ovviamente nella pratica questi diritti non sempre vengono garantiti. Il fatto che questa promessa venga anche solo parzialmente mantenuta è motivo di orgoglio, ma l’intelligenza artificiale può aiutarci a fare di meglio?

Ad esempio, l’intelligenza artificiale potrebbe migliorare il nostro sistema legale e giudiziario rendendo le decisioni e i processi più imparziali? Oggi, in ambito legale e giudiziario, la preoccupazione principale è che i sistemi di intelligenza artificiale possano essere causa di discriminazione , e queste preoccupazioni sono fondate e devono essere contrastate. Allo stesso tempo, la vitalità della democrazia dipende dalla capacità di sfruttare le nuove tecnologie per migliorare le istituzioni democratiche, non solo per rispondere ai rischi. Un’implementazione dell’intelligenza artificiale veramente matura e di successo ha il potenziale per ridurre i pregiudizi ed essere più equa per tutti.

Per secoli, i sistemi giuridici si sono trovati di fronte al dilemma che la legge, pur aspirando all’imparzialità, è intrinsecamente soggettiva e deve quindi essere interpretata da esseri umani soggetti a pregiudizi. Il tentativo di rendere la legge completamente meccanica non ha funzionato perché il mondo reale è complesso e non sempre può essere racchiuso in formule matematiche. I sistemi giuridici si basano invece su criteri notoriamente imprecisi come ” pena crudele e inusuale ” o ” assolutamente privo di rilevanza sociale “, che gli esseri umani interpretano, spesso in modo distorto da pregiudizi, favoritismi o arbitrarietà. Gli ” smart contract ” nelle criptovalute non hanno rivoluzionato il diritto perché il codice ordinario non è abbastanza intelligente da gestire una tale mole di questioni di interesse. Ma l’intelligenza artificiale potrebbe esserlo: è la prima tecnologia in grado di formulare giudizi ampi e generici in modo ripetibile e meccanico.

Non sto suggerendo di sostituire letteralmente i giudici con sistemi di intelligenza artificiale, ma la combinazione di imparzialità e capacità di comprendere ed elaborare situazioni complesse del mondo reale sembra avere serie applicazioni positive per il diritto e la giustizia. Come minimo, tali sistemi potrebbero affiancare gli esseri umani come supporto al processo decisionale. La trasparenza sarebbe fondamentale in qualsiasi sistema di questo tipo, e una scienza dell’IA matura potrebbe verosimilmente garantirla: il processo di addestramento di tali sistemi potrebbe essere studiato a fondo e tecniche di interpretabilità avanzate potrebbero essere utilizzate per analizzare il modello finale e valutarne la presenza di pregiudizi nascosti, in un modo che è semplicemente impossibile per gli esseri umani. Tali strumenti di IA potrebbero anche essere utilizzati per monitorare le violazioni dei diritti fondamentali in ambito giudiziario o di polizia, rendendo le costituzioni più efficaci nell’applicare i propri obblighi.

Analogamente, l’intelligenza artificiale potrebbe essere utilizzata sia per aggregare opinioni sia per promuovere il consenso tra i cittadini, risolvendo conflitti, trovando punti d’incontro e ricercando compromessi. Alcune delle prime idee in questa direzione sono state sviluppate dal progetto di democrazia computazionale , anche in collaborazione con Anthropic . Una cittadinanza più informata e consapevole rafforzerebbe ovviamente le istituzioni democratiche.

Esiste anche una chiara opportunità per l’utilizzo dell’IA per contribuire all’erogazione di servizi pubblici, come le prestazioni sanitarie o i servizi sociali, che in linea di principio sono disponibili a tutti ma in pratica spesso gravemente carenti, e in alcuni luoghi peggiori che in altri. Ciò include i servizi sanitari, la motorizzazione civile, le tasse, la previdenza sociale, il controllo delle norme edilizie e così via. Avere un’IA molto attenta e informata, il cui compito sia quello di fornire a ciascun cittadino tutto ciò a cui ha legalmente diritto da parte del governo in un modo comprensibile, e che lo aiuti anche a rispettare le norme governative spesso confuse, sarebbe un grande passo avanti. Aumentare la capacità dello Stato contribuisce sia a mantenere la promessa di uguaglianza di fronte alla legge, sia a rafforzare il rispetto per la governance democratica. I servizi mal implementati sono attualmente una delle principali cause di cinismo nei confronti del governo ^..

Si tratta di idee piuttosto vaghe e, come ho detto all’inizio di questa sezione, non sono altrettanto fiducioso nella loro fattibilità quanto lo sono nei progressi della biologia, delle neuroscienze e della lotta alla povertà. Potrebbero essere utopistiche e irrealistiche. Ma l’importante è avere una visione ambiziosa, essere disposti a sognare in grande e a sperimentare. La visione dell’intelligenza artificiale come garante della libertà, dei diritti individuali e dell’uguaglianza di fronte alla legge è troppo potente per non essere difesa. Un sistema politico del XXI secolo basato sull’intelligenza artificiale potrebbe essere al contempo un protettore più efficace della libertà individuale e un faro di speranza che contribuisca a rendere la democrazia liberale la forma di governo che il mondo intero desidera adottare.

5. Lavoro e significato

Anche se tutto quanto descritto nelle quattro sezioni precedenti dovesse andare per il verso giusto – non solo alleviando malattie, povertà e disuguaglianze, ma anche trasformando la democrazia liberale nella forma di governo dominante e migliorando le democrazie liberali esistenti – almeno una domanda importante rimane irrisolta. “È fantastico vivere in un mondo così tecnologicamente avanzato, oltre che giusto e dignitoso”, potrebbe obiettare qualcuno, “ma con l’intelligenza artificiale che fa tutto, che senso avrà la vita degli esseri umani? E, soprattutto, come faranno a sopravvivere economicamente?”.

Credo che questa domanda sia più difficile delle altre. Non intendo dire che sono necessariamente più pessimista al riguardo rispetto alle altre domande (anche se ne intravedo delle difficoltà). Intendo dire che è più vaga e difficile da prevedere in anticipo, perché riguarda questioni macroscopiche su come è organizzata la società, che tendono a risolversi solo nel tempo e in modo decentralizzato. Ad esempio, le società di cacciatori-raccoglitori del passato potrebbero aver immaginato che la vita fosse priva di significato senza la caccia e i vari tipi di rituali religiosi ad essa legati, e avrebbero immaginato che la nostra società tecnologica e ben nutrita fosse priva di scopo. Potrebbero anche non aver compreso come la nostra economia possa provvedere a tutti, o quale funzione le persone possano svolgere utilmente in una società meccanizzata.

Tuttavia, vale la pena dire almeno qualche parola, tenendo presente che la brevità di questa sezione non deve affatto essere interpretata come un segno di scarsa serietà nei confronti di queste problematiche, bensì come un segno di mancanza di risposte chiare.

Sulla questione del significato, credo sia molto probabilmente un errore credere che i compiti che intraprendiamo siano privi di significato solo perché un’intelligenza artificiale potrebbe farli meglio. La maggior parte delle persone non è la migliore al mondo in nulla, e questo non sembra preoccuparle più di tanto. Certo, oggi possono ancora dare il loro contributo grazie al vantaggio comparato e possono trarre significato dal valore economico che producono, ma le persone apprezzano molto anche le attività che non generano alcun valore economico. Io passo molto tempo a giocare ai videogiochi, a nuotare, a passeggiare all’aria aperta e a parlare con gli amici, attività che non generano alcun valore economico. Potrei passare una giornata cercando di migliorare in un videogioco o di andare più veloce in bicicletta su per una montagna, e non mi importa davvero che qualcuno da qualche parte sia molto più bravo di me in quelle cose. In ogni caso, credo che il significato derivi principalmente dalle relazioni e dai legami umani, non dal lavoro economico. Le persone desiderano un senso di realizzazione, persino un senso di competizione, e in un mondo post-IA sarà perfettamente possibile trascorrere anni tentando un compito molto difficile con una strategia complessa, simile a ciò che le persone fanno oggi quando intraprendono progetti di ricerca, cercano di diventare attori di Hollywood o fondano aziende ^.I fatti che (a) un’IA da qualche parte potrebbe in linea di principio svolgere questo compito meglio, e (b) questo compito non è più un elemento economicamente remunerato di un’economia globale, non mi sembrano poi così rilevanti.

L’aspetto economico mi sembra in realtà più complesso di quello relativo al significato. Con “economico” in questa sezione intendo il possibile problema che la maggior parte, o la totalità, degli esseri umani potrebbe non essere in grado di contribuire in modo significativo a un’economia basata sull’intelligenza artificiale sufficientemente avanzata. Questo è un problema di portata più ampia rispetto al problema specifico della disuguaglianza, in particolare della disuguaglianza nell’accesso alle nuove tecnologie, di cui ho parlato nella Sezione 3.

Innanzitutto, nel breve termine concordo con le argomentazioni secondo cui il vantaggio comparato continuerà a mantenere gli esseri umani rilevanti e, di fatto, ad aumentarne la produttività, arrivando persino a livellare il campo di gioco tra gli esseri umani . Finché l’IA sarà migliore solo nel 90% di un determinato lavoro, il restante 10% consentirà agli esseri umani di essere fortemente impiegati, aumentando i compensi e creando di fatto una serie di nuovi posti di lavoro che completeranno e amplificheranno le capacità dell’IA, in modo che quel “10%” si espanda fino a impiegare quasi tutti . In effetti, anche se l’IA fosse in grado di svolgere il 100% delle attività meglio degli esseri umani, ma rimanesse inefficiente o costosa in alcuni compiti, o se le risorse impiegate da umani e IA fossero significativamente diverse, la logica del vantaggio comparato continuerebbe ad applicarsi. Un ambito in cui gli esseri umani probabilmente manterranno un vantaggio relativo (o addirittura assoluto) per un periodo di tempo considerevole è il mondo fisico. Pertanto, credo che l’economia umana possa continuare ad avere senso anche un po’ oltre il punto in cui raggiungeremo “un paese di geni in un data center”.

Tuttavia, credo che a lungo termine l’intelligenza artificiale diventerà così ampiamente efficace e così economica che questo non sarà più valido. A quel punto il nostro attuale assetto economico non avrà più senso e sarà necessario un dibattito sociale più ampio su come l’economia dovrebbe essere organizzata.

Per quanto possa sembrare assurdo, il fatto è che la civiltà ha superato con successo importanti cambiamenti economici in passato: dalla caccia e raccolta all’agricoltura, dall’agricoltura al feudalesimo e dal feudalesimo all’industrializzazione. Sospetto che sarà necessario qualcosa di nuovo e più strano, qualcosa che nessuno oggi è riuscito a immaginare con chiarezza. Potrebbe trattarsi di qualcosa di semplice come un reddito di base universale per tutti, anche se sospetto che rappresenterà solo una piccola parte della soluzione. Potrebbe essere un’economia capitalista basata su sistemi di intelligenza artificiale, che distribuiscono risorse (in quantità enormi, dato che la torta economica complessiva sarà gigantesca) agli esseri umani in base a un’economia secondaria che stabilisce cosa i sistemi di intelligenza artificiale ritengono opportuno ricompensare gli esseri umani (in base a un giudizio derivato in ultima analisi dai valori umani). Forse l’economia si baserà sui punti Whuffie . O forse gli esseri umani continueranno ad avere valore economico, in un modo non previsto dai modelli economici tradizionali. Tutte queste soluzioni presentano un’infinità di potenziali problemi, ed è impossibile sapere se avranno senso senza numerose iterazioni e sperimentazioni. Come per altre sfide, probabilmente dovremo lottare per ottenere un buon risultato: sono chiaramente possibili anche sviluppi di sfruttamento o distopici, che devono essere impediti. Si potrebbe scrivere molto di più su questi temi e spero di poterlo fare in futuro.

Fare il punto

Attraverso i vari argomenti sopra esposti, ho cercato di delineare una visione di un mondo che sia al tempo stesso plausibile, se tutto andrà per il verso giusto con l’intelligenza artificiale, e di gran lunga migliore del mondo attuale. Non so se questo mondo sia realistico, e anche se lo fosse, non si realizzerà senza un enorme sforzo e impegno da parte di molte persone coraggiose e dedite. Tutti (incluse le aziende che si occupano di intelligenza artificiale!) dovranno fare la loro parte sia per prevenire i rischi sia per sfruttarne appieno i benefici.

Ma è un mondo per cui vale la pena lottare. Se tutto questo dovesse davvero accadere nell’arco di 5-10 anni – la sconfitta della maggior parte delle malattie, la crescita della libertà biologica e cognitiva, il sollevamento di miliardi di persone dalla povertà per permettere loro di beneficiare delle nuove tecnologie, una rinascita della democrazia liberale e dei diritti umani – sospetto che tutti coloro che assisteranno a questo processo saranno sorpresi dall’effetto che avrà su di loro. Non mi riferisco all’esperienza di beneficiare personalmente di tutte le nuove tecnologie, sebbene sarà certamente straordinaria. Mi riferisco all’esperienza di vedere un insieme di ideali a lungo coltivati materializzarsi davanti ai nostri occhi in un colpo solo. Credo che molti ne saranno letteralmente commossi fino alle lacrime.

Nel corso della stesura di questo saggio ho notato un’interessante tensione. Da un lato, la visione qui delineata è estremamente radicale: non è ciò che quasi nessuno si aspetta accada nel prossimo decennio e probabilmente a molti sembrerà un’assurda fantasia. Alcuni potrebbero persino non considerarla auspicabile; incarna valori e scelte politiche con cui non tutti saranno d’accordo. Ma allo stesso tempo c’è qualcosa di palesemente ovvio – qualcosa di sovradeterminato – in essa, come se molti diversi tentativi di immaginare un mondo migliore conducessero inevitabilmente, più o meno, a questo risultato.

In Iain M. Banks’ The Player of Games ²⁹Il protagonista, membro di una società chiamata la Cultura, basata su principi non dissimili da quelli che ho esposto, si reca in un impero repressivo e militarista in cui la leadership è determinata dalla competizione in un intricato gioco di battaglia. Il gioco, tuttavia, è talmente complesso che la strategia di un giocatore tende a riflettere la sua visione politica e filosofica. Il protagonista riesce a sconfiggere l’imperatore nel gioco, dimostrando che i suoi valori (i valori della Cultura) rappresentano una strategia vincente anche in un gioco ideato da una società basata su una competizione spietata e sulla sopravvivenza del più forte.

Un noto articolo di Scott Alexander sostiene la stessa tesi: la competizione è controproducente e tende a condurre a una società basata sulla compassione e sulla cooperazione. L'”

arco dell’universo morale ” è un altro concetto simile.

Credo che i valori della Cultura siano una strategia vincente perché sono la somma di un milione di piccole decisioni che hanno una chiara forza morale e che tendono a unire tutti dalla stessa parte. Le intuizioni umane fondamentali di equità, cooperazione, curiosità e autonomia sono difficili da contestare e hanno un effetto cumulativo, a differenza dei nostri impulsi più distruttivi. È facile sostenere che i bambini non dovrebbero morire di malattia se possiamo prevenirlo, ed è altrettanto facile sostenere che i figli di tutti meritano questo diritto in egual misura. Da qui non è difficile sostenere che dovremmo tutti unirci e mettere in campo il nostro intelletto per raggiungere questo obiettivo. Pochi contestano che le persone debbano essere punite per aver aggredito o ferito altri senza motivo, e da qui non è un grande passo arrivare all’idea che le punizioni debbano essere coerenti e sistematiche per tutti. Allo stesso modo, è intuitivo che le persone debbano avere autonomia e responsabilità sulla propria vita e sulle proprie scelte. Queste semplici intuizioni, se portate alle loro logiche conseguenze, conducono infine allo stato di diritto, alla democrazia e ai valori dell’Illuminismo. Se non inevitabilmente, almeno come tendenza statistica, l’umanità era già diretta verso questa meta. L’intelligenza artificiale offre semplicemente l’opportunità di accelerare il processo, rendendo la logica più evidente e la destinazione più chiara.

Tuttavia, è qualcosa di una bellezza trascendente. Abbiamo l’opportunità di svolgere un piccolo ruolo nel renderla realtà.

Un ringraziamento a Kevin Esvelt, Parag Mallick, Stuart Ritchie, Matt Yglesias, Erik Brynjolfsson, Jim McClave, Allan Dafoe e a molte altre persone di Anthropic per aver revisionato le bozze di questo saggio.

Ai vincitori del Premio Nobel per la Chimica 2024 , per averci mostrato la strada.

Note a piè di pagina

[NdR] Dal titolo della Poesia: “Tutto custodito da macchine di amorevole grazia” https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace ↩
Prevedo che una minoranza di persone reagirà dicendo “è piuttosto blando”. Credo che queste persone dovrebbero, per usare un’espressione di Twitter, “toccare l’erba”. Ma, cosa ancora più importante, la moderazione è un bene dal punto di vista sociale. Credo che ci sia un limite alla quantità di cambiamenti che le persone possono gestire contemporaneamente, e il ritmo che sto descrivendo è probabilmente vicino ai limiti di ciò che la società può assorbire senza una turbolenza estrema .
Trovo che AGI sia un termine impreciso che si è caricato di un bagaglio fantascientifico e di un clamore eccessivo. Preferisco “IA potente” o “Scienza e ingegneria di livello esperto”, che colgono il senso del termine senza l’enfasi eccessiva .
In questo saggio, utilizzo il termine “intelligenza” per riferirmi a una capacità generale di risoluzione dei problemi applicabile a diversi ambiti. Ciò include abilità come il ragionamento, l’apprendimento, la pianificazione e la creatività. Pur utilizzando “intelligenza” come termine abbreviato in tutto il saggio, riconosco che la natura dell’intelligenza è un argomento complesso e dibattuto nelle scienze cognitive e nella ricerca sull’intelligenza artificiale. Alcuni ricercatori sostengono che l’intelligenza non sia un concetto unico e unitario, ma piuttosto un insieme di abilità cognitive separate. Altri affermano che esista un fattore generale di intelligenza (fattore g) alla base di varie abilità cognitive. Questo è un dibattito che affronteremo in un’altra occasione .
Questa è all’incirca la velocità attuale dei sistemi di intelligenza artificiale: ad esempio, possono leggere una pagina di testo in un paio di secondi e scriverne una in circa 20 secondi, ovvero da 10 a 100 volte la velocità con cui gli esseri umani possono fare queste cose. Nel tempo, i modelli più grandi tendono a rallentare questo processo, ma i chip più potenti tendono ad accelerarlo; ad oggi, i due effetti si sono sostanzialmente compensati. ↩
Questa potrebbe sembrare una posizione pretestuosa, ma pensatori attenti come Tyler Cowen e Matt Yglesias l’hanno sollevata come una seria preoccupazione (anche se non credo che la condividano pienamente), e non la considero un’idea folle .
Il lavoro economico che più mi risulta più vicino ad affrontare questa questione è quello sulle “tecnologie di uso generale” e sugli ” investimenti immateriali ” che fungono da complemento alle tecnologie di uso generale. ↩
Questo apprendimento può includere l’apprendimento temporaneo, contestualizzato o la formazione tradizionale; entrambi saranno limitati dal mondo fisico. ↩
In un sistema caotico, i piccoli errori si accumulano esponenzialmente nel tempo, cosicché anche un enorme aumento della potenza di calcolo porta solo a un piccolo miglioramento nella capacità di previsione a lungo termine, e in pratica l’errore di misurazione può ulteriormente peggiorare questa capacità. ↩
Un altro fattore è ovviamente che un’IA potente può potenzialmente essere utilizzata per creare un’IA ancora più potente. La mia ipotesi è che ciò potrebbe accadere (anzi, probabilmente accadrà), ma che il suo effetto sarà minore di quanto si possa immaginare, proprio a causa dei “rendimenti marginali decrescenti dell’intelligenza” di cui si è discusso qui. In altre parole, l’IA continuerà a diventare più intelligente rapidamente, ma il suo effetto sarà alla fine limitato da fattori non legati all’intelligenza, e analizzare questi fattori è ciò che conta di più per la velocità del progresso scientifico al di fuori dell’IA. ↩
Questi risultati sono stati per me fonte di ispirazione e forse l’esempio più potente attualmente esistente di come l’intelligenza artificiale possa essere utilizzata per trasformare la biologia. ↩
“Il progresso scientifico dipende da nuove tecniche, nuove scoperte e nuove idee, probabilmente in quest’ordine.” – Sydney Brenner ↩
Grazie a Parag Mallick per aver suggerito questo punto. ↩
Non volevo appesantire il testo con speculazioni su quali scoperte future specifiche la scienza basata sull’IA potrebbe realizzare, ma ecco un brainstorming di alcune possibilità:
— Progettazione di strumenti computazionali migliori come AlphaFold e AlphaProteo, ovvero un sistema di IA generale che acceleri la nostra capacità di creare strumenti di biologia computazionale specializzati basati sull’IA.
— CRISPR più efficiente e selettivo.
— Terapie cellulari più avanzate.
— Scoperte nella scienza dei materiali e nella miniaturizzazione che portino a dispositivi impiantabili migliori.
— Migliore controllo sulle cellule staminali, sulla differenziazione e de-differenziazione cellulare e conseguente capacità di rigenerare o rimodellare i tessuti.
— Migliore controllo sul sistema immunitario: attivarlo selettivamente per combattere il cancro e le malattie infettive e disattivarlo selettivamente per combattere le malattie autoimmuni. ↩
L’IA può ovviamente anche aiutare a scegliere in modo più intelligente quali esperimenti eseguire: migliorare la progettazione sperimentale, imparare di più da una prima serie di esperimenti in modo che la seconda serie possa concentrarsi sulle domande chiave e così via. ↩
Grazie a Matthew Yglesias per aver suggerito questo punto. ↩
Le malattie in rapida evoluzione, come i ceppi multiresistenti ai farmaci che essenzialmente usano gli ospedali come un laboratorio evolutivo per migliorare continuamente la loro resistenza al trattamento, potrebbero essere particolarmente difficili da affrontare e potrebbero essere il tipo di ostacolo che ci impedisce di raggiungere il 100%. ↩
Nota: potrebbe essere difficile rendersi conto che abbiamo raddoppiato la durata della vita umana nell’arco di 5-10 anni. Anche se potremmo averlo realizzato, potremmo non esserne ancora consapevoli entro il periodo di studio. ↩
Questo è un ambito in cui sono disposto, nonostante le ovvie differenze biologiche tra la cura delle malattie e il rallentamento del processo di invecchiamento stesso, a guardare da una maggiore distanza l’andamento statistico e dire: “anche se i dettagli sono diversi, penso che la scienza umana probabilmente troverebbe un modo per continuare questo trend; dopotutto, i trend uniformi in qualsiasi cosa complessa sono necessariamente creati sommando componenti molto eterogenee ” .
Ad esempio, mi è stato detto che un aumento della crescita della produttività annua dell’1% o persino dello 0,5% sarebbe rivoluzionario per le proiezioni relative a questi programmi. Se le idee contemplate in questo saggio si concretizzassero, i guadagni di produttività potrebbero essere molto maggiori .
I media amano ritrarre psicopatici di alto rango , ma lo psicopatico medio è probabilmente una persona con scarse prospettive economiche e scarso controllo degli impulsi che finisce per trascorrere molto tempo in prigione. ↩
Penso che questo sia in qualche modo analogo al fatto che molti, sebbene probabilmente non tutti, i risultati che stiamo apprendendo dall’interpretabilità continuerebbero ad essere rilevanti anche se alcuni dettagli architettonici delle nostre attuali reti neurali artificiali, come il meccanismo di attenzione, venissero modificati o sostituiti in qualche modo. ↩
Sospetto che sia un po’ come un classico sistema caotico, afflitto da una complessità irriducibile che deve essere gestita in modo prevalentemente decentralizzato. Anche se, come dirò più avanti in questa sezione, potrebbero essere possibili interventi più modesti. Un controargomento, presentatomi dall’economista Erik Brynjolfsson, è che le grandi aziende (come Walmart o Uber) stanno iniziando ad avere sufficienti conoscenze centralizzate per comprendere i consumatori meglio di quanto qualsiasi processo decentralizzato potrebbe fare, costringendoci forse a rivedere le intuizioni di Hayek su chi possiede la migliore conoscenza locale. ↩
Grazie a Kevin Esvelt per aver suggerito questo punto. ↩
Ad esempio, inizialmente i telefoni cellulari erano una tecnologia per i ricchi, ma sono diventati rapidamente molto economici grazie ai miglioramenti annuali così rapidi da annullare qualsiasi vantaggio derivante dall’acquisto di un telefono cellulare “di lusso”, e oggi la maggior parte delle persone possiede telefoni di qualità simile .
Questo è il titolo di un documento di prossima pubblicazione della RAND, che illustra a grandi linee la strategia che descrivo. ↩
Quando una persona media pensa alle istituzioni pubbliche, probabilmente pensa alla propria esperienza con la motorizzazione, l’agenzia delle entrate, l’assistenza sanitaria o funzioni simili. Rendere queste esperienze più positive di quanto non lo siano attualmente sembra un modo efficace per combattere un cinismo eccessivo. ↩
In effetti, in un mondo basato sull’intelligenza artificiale, la gamma di possibili sfide e progetti sarà molto più ampia di quanto non lo sia oggi. ↩
Sto infrangendo la mia stessa regola di non parlare di fantascienza, ma ho trovato difficile non farvi almeno un accenno. La verità è che la fantascienza è una delle nostre poche fonti di esperimenti mentali di ampio respiro sul futuro; credo che sia un brutto segno il fatto che sia così profondamente intrecciata a una particolare e ristretta sottocultura

Attivismo.info

IA: Macchine di Amorevole Grazia

Presupposti e quadro di riferimento fondamentali

1. Biologia e salute

2. Neuroscienze e mente

3. Sviluppo economico e povertà

4. Pace e buon governo

5. Lavoro e significato

Fare il punto

Note a piè di pagina

Lascia un commento Annulla risposta

furiorug

Questo è il Blog di
Confederazione Sovranità Popolare

IA: Macchine di Amorevole Grazia

Presupposti e quadro di riferimento fondamentali

1. Biologia e salute

2. Neuroscienze e mente

3. Sviluppo economico e povertà

4. Pace e buon governo

5. Lavoro e significato

Fare il punto

Note a piè di pagina

Lascia un commento Annulla risposta

furiorug

Related Posts

Colonia Italia: 1. Il concetto di egemonia culturale

Perchè i banchieri non vogliono l’Euro Digitale

PNRR, Keynes aveva ragione?

Questo è il Blog diConfederazione Sovranità Popolare

Questo è il Blog di
Confederazione Sovranità Popolare