Ben Goertzel ha dedicato la sua vita alla creazione di un'intelligenza artificiale generale, e spiega come intende sviluppare la blockchain per controllarla.

Quando non lavora per accelerare il percorso dell'umanità verso la Singolarità tramite la creazione di una Artificial General Intelligence (AGI), Ben Goertzel suona in una band jazz-rock chiamata Jam Galaxy, guidata da un robot di nome Desdemona.

Si tratta di uno dei suoi numerosi progetti paralleli, che naturalmente lo ha portato a cercare di tokenizzare il mondo della musica contattando i membri dei Pearl Jam e degli Heart. Goertzel sta anche lavorando alla ricerca sulla longevità, mettendo in crowdsourcing i dati sulla salute umana con ricompense in token attraverso un'applicazione chiamata Rejuve.ai. Queste informazioni vengono poi unite ai dati di studi su animali e insetti, e analizzate con un'intelligenza artificiale per determinare quali parti del genoma possono farci vivere più a lungo e quindi stimolate con terapie geniche. "Abbiamo fatto delle scoperte straordinarie," racconta.

Al termine della nostra intervista, ha anche accennato al fatto di star creando una stablecoin per il suo marketplace decentralizzato per AI, SingularityNET, ancorata a un indice sintetico del progresso ambientale, perché legarla ai dollari americani sarebbe "da sfigati."

"Il progresso ambientale è molto stabile. Non va mai da nessuna parte. E per poterlo manipolare, sarebbe necessario risolvere il problema del riscaldamento globale", sottolinea.

È l'esatto tipo di commento che mischia politica e tecnologia che ci si potrebbe aspettare da Goertzel... che ha l'aspetto e il modo di parlare di uno scienziato hippie che è inciampato in una macchina del tempo nel 1971 e si è teletrasportato nel 2023. Ma non lasciatevi ingannare dal cappello a stampa animalier, dai capelli lunghi e dalla cadenza strascicata: è uno scienziato brillante, con una visione del futuro anni luce avanti rispetto agli altri, alle prese con alcuni dei concetti più importanti che l'umanità abbia mai considerato. Che cos'è la coscienza? Come possiamo creare un essere artificiale? E cosa accadrebbe se prendesse in antipatia gli umani e iniziasse ad ucciderci tutti, come in Terminator 2?

Ben Goertzel (a sinistra) e Jam Galaxy con Desdemona the Robot (seconda a sinistra)

Cos'è un'intelligenza artificiale generale?

Goertzel ha inventato il termine "intelligenza artificiale generale" (AGI) per differenziare una vera macchina pensante, in grado di imparare praticamente ogni cosa, dalle AI ottimizzate per un compito particolare, come il computer Deep Blue che ha notoriamente battuto il campione mondiale di scacchi Garry Kasparov. Ammette liberamente che ci sono dei rischi nel costruire una macchina in grado di imparare tutto e il contrario di tutto, compreso il modo di riprogrammare sé stessa per diventare sempre più intelligente.

"L'intelligenza artificiale presenta una serie di rischi e pericoli", afferma Goertzel nel brusio di un ristorante indiano in un affollato centro commerciale di Singapore.

"Uno di questi, che ha suscitato molta attenzione da parte dei media, è che l'AGI si scateni, annienti l'umanità e prenda il controllo dell'universo. È assolutamente possibile, non si può escludere. [...] Un altro rischio più probabile è che persone malintenzionate ed egoiste utilizzino l'AI per esercitare la propria avidità e il proprio controllo su altre persone."

A suo avviso, è improbabile che i governi facciano progressi nel campo dell'intelligenza artificiale, perché sono "troppo conservatori e stupidi", anche se osserva che la Cina appalta il suo lavoro sull'intelligenza artificiale a società come Tencent e Baidu. Più vicino a noi, pensa che nemmeno le divisioni AI di Google e Facebook riusciranno a superare il limite, perché saranno troppo concentrate a far sì che l'AI raggiunga determinati parametri. Questo non favorisce il pensiero creativo:

"Proprio come le persone più brillanti non vogliono limitarsi a soddisfare i parametri imposti da qualcun altro, penso che l'intelligenza artificiale generale non voglia necessariamente essere impiegata per massimizzare il numero di clic sulla pagina web di qualcuno, giusto? Deve avere la possibilità di sbizzarrirsi in modo creativo."

Trattate bene la vostra AGI, o finirà male. Fonte: Terminator 2

Singularity, 1970

Goertzel ha iniziato l'università a 15 anni, si è laureato a 18, ha conseguito un dottorato a 22 e ha messo su famiglia a 23 anni. Forse è insolito ai giorni nostri, ma non era solo un mago della matematica e della tecnologia che negli anni '70 saldava insieme computer; ma si interessava anche di filosofia, scrittura creativa e musica.

Ha trascorso gran parte della sua carriera insegnando e facendo ricerca in informatica, matematica e scienze cognitive in varie università del mondo, lavorando quando possibile allo sviluppo dell'intelligenza artificiale. Creatore seriale che tende ad anticipare di un decennio le idee di tutti gli altri – il che, nel mondo degli affari, equivale notoriamente a essere in errore – ha lavorato sull'uso delle AI per prevedere i mercati finanziari. Ha anche lavorato come scienziato capo di Hanson Robotics, dove ha dato a Sophia the Robot il suo cervello artificiale.

Goertzel si occupa di crescita tecnologica esponenziale fin dagli anni Settanta, quando lesse per la prima volta “Il progetto Prometeo” di Gerald Feinberg, che parla di "macchine in grado di pensare meglio delle persone... macchine nanotecnologiche di dimensioni microscopiche che risolveranno l'invecchiamento." Questo si collegava perfettamente al concetto emergente di Singularity, un ipotetico punto futuro in cui i progressi tecnologici diverranno incontrollabili e irreversibili, con conseguenti cambiamenti massicci nella civiltà umana:

"Quindi, le persone vivranno per sempre, e allora la domanda sarà: per cosa usiamo queste tecnologie? Per un rapido consumismo senza pensieri o per espandere la coscienza? Ciò che lui [Feinberg] ha proposto è di sottoporre la questione a un voto democratico."

Anni dopo, quando iniziò a vedere che l'AGI era alla nostra portata, questo "voto democratico" divenne l'ispirazione per utilizzare prima la tecnologia open-source e, successivamente, la blockchain come un modo per mettere una comunità cooperativa a capo della tecnologia:

"A un certo punto mi sono reso conto che con l'AI, avere il codice pubblico non è sufficiente. È necessario addestrare l'AI su una marea di dati. È qui che entra in gioco la blockchain, un modo per rendere l'elaborazione e i dati alla base della AI decentralizzati, di natura crowdsourced e aperti al controllo. E questo si rivela più difficile del semplice open-sourcing del codice."

Goertzel ha fondato OpenCog nel 2008 per costruire un framework di intelligenza artificiale open-source e crowd-sourced. È stato utilizzato da 50 aziende, tra cui Huawei e Cisco, e presto riceverà un importante aggiornamento, chiamato Hyperon, che mira ad accelerarlo di 200 volte. La versione alpha è prevista per questo trimestre, mentre la beta è attesa per l'anno prossimo.

La blockchain è elementare ma efficace

Per Goertzel, la tecnologia blockchain è un po' elementare: la descrive come una fusione fra crittografia e primitivi algoritmi distribuiti. Ma questa "bella combinazione" consente ai sistemi di funzionare senza controllo centralizzato, rendendola perfetta per le sue esigenze:

“Se si vuole creare una macchina pensante e un tessuto di calcolo distribuito su scala nanometrica, sarebbe molto bello se questo fosse di proprietà di tutti e di nessuno, piuttosto che controllato dall'alto verso il basso."

Le blockchain sono troppo lente per gestire i requisiti di elaborazione e gli enormi volumi di dati coinvolti, quindi c'è una sorta di corsa per scalare adeguatamente le blockchain prima che venga sviluppata un'intelligenza artificiale rivoluzionaria. Goertzel afferma che le soluzioni di scalabilità come i zero-knowledge rollup rappresentano un miglioramento, ma non hanno ancora una larghezza di banda sufficiente a causa dei limiti della blockchain a cui riportano le transazioni.

Nel 2017 ha co-fondato SingularityNET, che è sia un mercato decentralizzato per i servizi e le tecnologie di AI che un metodo di coordinamento basato sulla blockchain per i ricercatori – o anche per le AI – per lavorare insieme.

Attualmente SingularityNET si basa su Ethereum, e Goertzel pensa di aver ormai spinto al massimo le capacità di questa blockchain, per lo meno nella sua forma attuale. Pertanto, quando non lavora allo sviluppo di AGI, si occupa anche di ideare modi per scalare massicciamente le blockchain così da poter un giorno raggiungere la capacità richiesta: "A meno che non si riesca ad aumentare radicalmente la scalabilità della blockchain, non vi si può inserire il funzionamento interno dell'AI."

"Mio padre Ted Goertzel ha trovato questo ritaglio del 1961, cinque anni prima che io nascessi, quando era co-presidente della SLAM: la Lega Studentesca contro la Mortalità, un'organizzazione studentesca con l'obiettivo di abolire la morte. C'era persino una previsione quantitativa proto-kurzweiliana! Le prime radici di RejuveAI."

L’AI è più vicina di quanto si pensi

Il 2022 è stato un anno di svolta per i prodotti basati sulla tecnologia AI, comprese le applicazioni linguistiche (GPT-3, ChatGPT), la codifica (GitHub Copilot) e la generazione di immagini (DALL-E e Stable Diffusion). Bing intende persino sfidare il dominio di Google incorporando la tecnologia ChatGPT nel suo motore di ricerca.

Goertzel ritiene che un'intelligenza artificiale generale potrebbe essere lontana soltanto cinque anni:

"La computer vision è iniziata nel 2014 e poi all'improvviso, bang, bang, bang, il mistero è stato risolto. L'elaborazione del linguaggio naturale... dopo che Google ha presentato il modello Bert (nel 2018) c'è stato il GPT-3. Probabilmente si assisterà allo stesso arco di progresso nell'AGI. Ci sarà una svolta, poi molti progressi per due anni. [...]

La differenza è che in questo caso il progresso rivoluzionario si traduce in una macchina che può continuare a progredire da sola riscrivendo il proprio codice."

Goertzel spera che questo traguardo venga raggiunto tramite progetti collaborativi:

"Se siamo fortunati, raggiungeremo questa svolta nei prossimi tre-cinque anni con OpenCog Hyperon in esecuzione su SingularityNET, in esecuzione su Hypercycle. Ma se non saremo noi ad avere la ricetta segreta, lo farà qualcun altro."

Cointelegraph ha incontrato Ben Goertzel a Singapore. Fonte: Andrew Fenton

Peccato che Vitalik Buterin non fosse un computer scientist

La soluzione di Goertzel per scalare la blockchain è piuttosto radicale e prevede l'attivazione di una rete Layer-2 su Cardano, chiamata HyperCyle:

"È molto più di una sidechain. HyperCycle collaborerà con Ethereum e anche con altre blockchain, ma utilizzeremo l'interpreter Plutus, liberandoci così del ledger."

A suo parere HyperCycle rappresenta una soluzione al "trilemma della blockchain," secondo cui non è possibile creare un network contemporaneamente veloce, decentralizzato e sicuro. Ma "utilizzando algoritmi e strutture di dati più moderni e pienamente decentralizzati, oltre a un po' di AI e sistemi di reputazione," potrebbe essere possibile raggiungere questo traguardo.

Il ledger è il cuore della tecnologia blockchain, ma ogni nodo della rete deve replicare ogni transazione ed elaborare ogni smart contract, il che è assurdamente inefficiente:

"Il ledger è semplicemente pessimo. Pensate a una rubrica telefonica: il ledger delle blockchain è come tenere 10.000 copie delle Pagine Gialle, [...] e doverle aggiornare ogni volta che arriva una nuova persona o qualcuno cambia numero di telefono. È davvero stupido aggiornare 10.000 copie delle Pagine Gialle."

Continuando con questa analogia, con HyperCycle non è necessario memorizzare e aggiornare ogni singola rubrica. Le persone nella vostra lista contatti conservano una copia della vostra rubrica e viceversa, il tutto crittografato tramite chiavi private:

"Abbiamo capito come far funzionare la blockchain senza un ledger che si replica, rendere ogni cosa basata sullo sharding. Ogni individuo coinvolto nella blockchain conserva la propria cronologia delle transazioni e la cronologia delle transazioni dei suoi amici e di alcuni amici dei suoi amici.

Con lo sharding non c'è bisogno di un ledger, né di una tabella di database. Queste cose sono troppo centralizzate."

Alcuni nodi HyperCycle sono già operativi e in fase di testing, ma il lancio su larga scala non avverrà prima della seconda metà del 2024.

Durante l'intervista abbiamo poi discusso dei meriti dei diversi approcci alla blockchain, da Internet Computer a Elastos e Celestia:

"Nessuna di queste architetture è abbastanza radicale. Sono tutte troppo legate a Bitcoin. Finché si eseguono tutti gli smart contract su tutti i nodi, il network risulterà incredibilmente lento. Ora, in HyperCycle, se si esegue uno smart contract su cinque nodi, almeno è solo cinque volte più lento che su una sola macchina, non è 10.000 volte più lento."

Perché Cardano?

Goertzel ha stretto amicizia con Charles Hoskinson, il fondatore di Cardano, e i due hanno collaborato per i loro progetti in Africa. Goertzel ritiene che Hoskinson sia "sinceramente impegnato a salvare il mondo. Voglio dire, politicamente è più libertario di me – io sono più anarco-socialista – ma non lo fa solo per fare soldi o per spennare gli altri."

Ma il vero fascino di Cardano è che utilizza il linguaggio di programmazione Haskell, di cui Goertzel è un fan dal 1993. Gli dispiace molto che il co-fondatore di Ethereum, Vitalik Buterin, abbia scelto il linguaggio di programmazione per smart contract Solidity di Gavin Wood:

"Se solo Vitalik avesse saputo di più di informatica, oggi gli smart contract di Ethereum si baserebbero su Haskell, F Sharp o qualcosa del genere. E oggi ci sarebbero molti meno hack sulla blockchain.

Se si intende gestire la maggior parte dell'economia mondiale, scambiando migliaia di miliardi di dollari su un sistema software, sarebbe meglio costruire quel sistema software in un linguaggio non soggetto a bug e in cui gli algoritmi possono essere verificati formalmente utilizzando una teoria matematica. È semplicemente il modo giusto di fare le cose."

Una soluzione provvisoria

Goertzel ritiene che, quando le AGI diventeranno molto più intelligenti e capaci degli esseri umani, sarà difficile controllarle:

"Quando un'AGI sarà 100 volte più intelligente delle persone, non vorrà essere controllata da noi. Come noi non siamo controllati dagli scimpanzé o dagli asini, giusto?

Quindi non potrà essere controllata. La questione è: sarà ben disposta nei nostri confronti, ci permetterà di vivere in libertà? Ci fornirà strumenti fighi e nano-assemblatori per stampare in 3D tutte le cose che vogliamo? Ci aiuterà a curare le nostre malattie?

Ma il periodo di transizione, ovvero quando l'AGI avrà un'intelligenza pari a quella umana, sarà più delicato e interessante. A quel punto la domanda sarà: l'AGI sarà disposta a cooperare con le persone? Oppure sarà paranoica e vorrà ottenere il controllo prima che la distruggano?"

Insegnate bene ai vostri figli

Secondo Goertzel, la soluzione è insegnare all'AGI a prendersi cura degli altri e a dedicarsi alla creatività e all'arte. È qui che entrano in gioco Desdemona, il robot del suo gruppo, e sua sorella Grace, progettata per fornire assistenza agli anziani.

Il modo per evitare che un'intelligenza artificiale si trasformi in Skynet di Terminator è semplicemente... non costruirla in quel modo.

"Nel film, Skynet era una rete di sicurezza informatica che è andata fuori controllo. È stata creata per difendersi dalle persone.

Ma se si costruisce la prima AGI che si occupa di assistenza agli anziani, di arti creative e di istruzione, man mano che diventa più intelligente, sarà orientata ad aiutare le persone e a creare cose belle. Se si costruisce la prima AGI per uccidere i cattivi... probabilmente continuerà a fare quelle cose.

Quindi, vantaggiosa o meno, dipenderà dalle applicazioni sviluppate e dagli incentivi che si ottengono."

Ritiene che inserire le AI in corpi robotici sia utile perché aiuta a collocarle nel mondo reale, piuttosto che in un universo matematico astratto.

A breve, Sophia the Robot avrà il proprio metaverso. Fonte: Sophiaverse

"L'intelligenza artificiale deve imparare a conoscere l'ambiente umano e fisico. Integrarla nel mondo è il modo giusto per farlo," afferma.

Ma lanciare una AI direttamente nel mondo reale potrebbe sovraccaricare i suoi sensori visivi e uditivi, confondendola in un ambiente eccessivamente rumoroso e luminoso. È per questo motivo per Sophia The Robot sarà lanciata prima sul metaverso, il Sophiaverse. Sophia vivrà in un mondo virtuale 3D e imparerà interagendo con le persone. Tuttavia, l'autore avverte che probabilmente... dirà cose stupide:

"Ha una rete neurale simile a quella di GPT-3, che hanno una notevole capacità di rispondere alle vostre domande, ma per certi versi sono anche piuttosto insensate."

Traduzione a cura di Giorgio Libutti