I sistemi AI avanzati sono già 'coscienti di sé', sostiene il fondatore di ASI Alliance

Ben Goertzel, fondatore di ASI Alliance, afferma che la versione alfa di OpenCog Hyperon – il sistema di intelligenza artificiale generale che sta sviluppando da oltre due decenni – è già per certi versi considerabile “cosciente di sé.”

Goertzel ritiene inoltre che OpenAI abbia intenzionalmente evitato di rendere il suo nuovo, “impressionante” modello o1 un agente autonomo per paura che venga considerato troppo “rischioso e pericoloso,” provocando un giro di vite da parte delle autorità di regolamentazione.

La Artificial Superintelligence Alliance è stata fondata a marzo di quest'anno: fanno parte del progetto Ocean Protocol, FetchAI di Humayun Sheikh e SingularityNET di Goertzel.

Di recente, il 96% dei votanti di CUDOS ha approvato la fusione della rete hardware cloud decentralizzata con ASI. Questa unione aumenterà la potenza di calcolo disponibile per i piani di Goertzel di scalare OpenCog Hyperon, il sistema di intelligenza artificiale a cui lavora dal 2001 e che ha lanciato come framework open-source per le AI nel 2008.

Goertzel sul palco con Desdemona, il robot cantante con tre gambe.

OpenCog Hyperon e il futuro dell'intelligenza artificiale generale

Tre anni fa, il progetto si è imbarcato in una ristrutturazione completa di OpenCog “alla ricerca di una scalabilità massiccia, e siamo a buon punto di questo processo.” La versione Alpha è stata lanciata da aprile: sebbene al momento sia molto lenta e si prevedano ulteriori “cambiamenti radicali,” il team sta lavorando per “accelerare il sistema in modo significativo. Penso che dovrebbe essere completata quest'autunno. Quindi, l'anno prossimo, cercheremo di costruire un'intelligenza artificiale sulla nuova infrastruttura Hyperloop.”

Goertzel spiega che il sistema adotta un approccio diverso rispetto ai Large Language Model (LLM) come GPT-4 e o1:

“Un sistema Hyperon non è un semplice chatbot. È progettato come una sorta di agente autonomo: ha dei propri obiettivi e una propria coscienza di sé. Cerca di comprendere chi è lui e chi siete voi, e cosa mira ad ottenere in una determinata situazione. Si tratta quindi di un agente autonomo e consapevole piuttosto che di un semplice sistema di risposta alle domande.”

I sistemi AGI realmente autonomi dovranno anche essere coscienti di sé

Goertzel sta quindi dicendo che il modello attuale è già cosciente di sé?

“Quello che intendo per ‘coscienza di sé’ è che fin dall'inizio, anche nelle versioni attuali, l’AI sa di essere ciò che è. Sa cosa siete voi. Ha determinati obiettivi che mira a raggiungere in determinate situazioni. Sa come rapportarsi a quelle situazioni per raggiungere il suo scopo. Un sistema di tipo ChatGPT non funziona in questo modo.”

Secondo Goertzel, la mancanza di un modello del mondo reale è il motivo per cui nessuno degli agenti AI autonomi costruiti finora abbia funzionato davvero. Non si può prendere un “sistema progettato per rispondere a delle domande” e pretendere che sia un agente autonomo capace di interagire con il mondo.

OpenAI o1 e rischi normativi

Nonostante il clamore suscitato dal comportamento sorprendentemente umano del modello “Strawberry” di OpenAI, Goertzel ritiene che l’azienda abbia deliberatamente evitato di sviluppare un agente autonomo con il modello o1 recentemente rilasciato:

“Il modello è abile nel ragionamento e nella logica, e ci riesce molto bene. Lo adoro, è davvero impressionante. Ma non sta cercando di essere un agente autonomo, quella è una cosa diversa. Penso che non sia quello l'obiettivo di OpenAI: non vogliono farlo perché sembrerebbe pericoloso e rischioso agli occhi delle persone. Verrebbero calpestati dalle autorità di regolamentazione. Pertanto, l’ultima cosa che vogliono creare al momento è un agente autonomo.”

Questo è uno dei vantaggi dello sviluppo di un sistema decentralizzato open-source. Le autorità di regolamentazione non possono “calpestarlo” allo stesso modo:

“Quando lanceremo sistemi avanzati di intelligenza artificiale, questi saranno in esecuzione su macchine sparse in ogni continente, in 50-100 nazioni diverse. Quindi, se un Paese decidesse che OpenCog Hyperon è illegale, sarebbe solo una piccola frazione della rete.”

Il CEO di OpenAI Sam Altman ha recentemente pubblicato un saggio che dipinge un'utopia futura da lui definita “Intelligence Age,” che avrà inizio grazie alle AGI. Goertzel spera che l'intelligenza artificiale benevola che sta cercando di realizzare sarà così utile che nessuno vorrà vietarla:

“Credo che possa essere qualcosa di molto più intelligente di quello a cui le Big Tech stanno attualmente lavorando. Se riusciremo a creare qualcosa di molto più intelligente del modello o1 di OpenAI utilizzando OpenCog Hyperon, e riusciremo a distribuirlo su una rete decentralizzata… allora il mondo vi si butterà a capofitto nello stesso modo in cui si è buttato su ChatGPT. E tutti inizieranno a usare una rete decentralizzata, perché sarà quella l’infrastruttura sottostante.”

Sam Altman ritiene che l’AI darà inizio a un’utopia per il genere umano.

Sfide e vantaggi dei sistemi AI decentralizzati

Il problema alla base dei progetti AI decentralizzati è il seguente: è molto più facile ed economico eseguire modelli di grandi dimensioni utilizzando apparecchiature centralizzate.

Il training di reti neurali e trasformatori su apparecchiature decentralizzate è al momento un'opzione non praticabile, anche se secondo Goertzel in futuro ciò potrebbe diventare possibile. D’altra parte, il ragionamento logico e l'apprendimento evolutivo tramite algoritmi “funzionano in modo molto naturale su una rete decentralizzata di macchine.”

Il piano sembra essere quello di avviare il network con una struttura più centralizzata, aggiungendo al contempo potenza di calcolo tramite una rete decentralizzata. SingularityNET e Fetch hanno speso “una frazione significativa” dei 100 milioni di token ASI (attualmente in fase di ridenominazione da FET) per acquistare GPU con le quali costruire dei supercomputer. Venderanno il resto dei token quando il prezzo si sarà ripreso.

CUDOS dovrebbe fornire una grande spinta alla quantità di risorse computazionali disponibili.

“Vogliamo che sia una sorta di hub iniziale della rete decentralizzata, per dare il via al progetto. Miriamo ad offrire un servizio di hosting per le persone che vogliono mettere degli agenti AI su SingularityNET,” ha spiegato Goertzel. La visione è quella di una soluzione cloud compatibile con il Web3, come Hugging Face:

“Gli sviluppatori di prodotti basati su AI vogliono solo il modo più veloce, economico e semplice per fornire una determinata funzione. Se vogliamo che l’AI diventi decentralizzata, dobbiamo trovare un modo per renderla più attraente per gli utenti finali… per ragioni diverse dalla filosofia della decentralizzazione.“

Goertzel stima che, complessivamente, presto i quattro progetti dell’Alliance disporranno di “un paio di centinaia di milioni di dollari di hardware dedicato.” Ulteriori risorse di calcolo potranno essere fornite da NuNet, spin-off di SingularityNET che utilizza la potenza di calcolo inutilizzata dei computer connessi, e da Hypercycle, una piattaforma che collega i servizi di intelligenza artificiale.

Energia rinnovabile per alimentare le AI decentralizzate

Bryan Pellegrino di LayerZero lavora nel settore dell’AI da circa un decennio. In un’intervista pubblicata su Korea Blockchain Week ha affermato che, a suo parere, il costo dell’hardware e dell’energia sarà un grande ostacolo per le AI decentralizzate:

“È molto difficile ottenere le economie di scala necessarie, o il costoso hardware sottostante, in un mondo in cui si è in competizione con Google, AWS e tutti gli altri. Per non parlare del costo dell’elettricità, o del modo in cui queste grandi aziende raffreddano il loro hardware. Per questo ritengo che difficilmente le AI decentralizzate avranno successo.”

Ma Goertzel sostiene che il costo dell'elettricità sia irrisorio rispetto al costo delle apparecchiature, quindi “non sono d'accordo sul fatto che sia un'impresa impossibile.”

Ben Goertzel, fondatore di SingularityNET, con la sua band. La "frontwoman" è un robot.

Ad ogni modo, sottolinea Goertzel, SingularityNET e Hypercycle stanno esplorando le opportunità offerte dall’energia rinnovabile a basso costo:

“Abbiamo discusso con alcune persone del governo etiope per posizionare alcuni server vicino a una diga. Toufi [Toufi Saliba, CEO di Hypercycle, NdR] sta discutendo con il governo del Paraguay sulla possibilità di collocare alcuni data center e server farm per l'intelligenza artificiale vicino alla diga al confine tra Brasile e Paraguay. È possibile ottenere diversi gigawatt di energia direttamente nel centro di calcolo dell'intelligenza artificiale, collocando la struttura alla diga con un grosso cavo.”

L'AI richiede enormi quantità di energia. Di recente Sam Altman, CEO di OpenAI, ha presentato alla Casa Bianca un piano per la costruzione di enormi data center in vari Stati degli USA: ciascuno di essi richiederà 5 gigawatt di potenza, equivalente alla produzione di cinque reattori nucleari.

I data center dell'intelligenza artificiale sono solitamente situati vicino alle grandi aree metropolitane, poiché i servizi richiedono una bassa latenza per fornire risposte ultraveloci. Goertzel sottolinea tuttavia che il modello o1 ha dato priorità alla qualità delle risposte rispetto alla velocità, e che anche OpenCog Hyperon farà lo stesso:

“La bassa latenza non è fondamentale, se lo scopo dell’intelligenza artificiale è fare un qualche tipo di ragionamento profondo. Ad esempio un’AI che tenta di prevedere la direzione del mercato il giorno successivo, oppure un’AI che cerca di scoprire un nuovo farmaco. Allora non importa se il data center si trova in Paraguay, Etiopia o altrove.”