Secondo il cofondatore di Ethereum Vitalik Buterin, l'intelligenza artificiale (IA) super avanzata, se non controllata, possiede una "seria possibilità" di superare gli esseri umani e diventare la prossima "specie apicale" del pianeta.
Ciò dipenderà dal modo in cui l'uomo interverrà potenzialmente sugli sviluppi dell'IA. Buterin ha recentemente condiviso: "Un nuovo post mostruoso: il mio punto di vista attuale sui recenti dibattiti sul tecno-ottimismo, sui rischi dell'IA e sui modi per evitare l'estrema centralizzazione nel XXI secolo."

In un blog post del 27 novembre, Buterin, considerato da alcuni un leader di pensiero del settore crypto, ha sostenuto che l'IA sia "fondamentalmente diversa" da altre invenzioni recenti – come i social media, la contraccezione, gli aerei, le pistole, la ruota e la stampa – in quanto l'IA può creare un nuovo tipo di "mente" che può rivoltarsi contro gli interessi umani, aggiungendo:

"L'IA è [...] un nuovo tipo di mente che sta rapidamente acquisendo intelligenza, e ha serie possibilità di superare le facoltà mentali degli esseri umani e diventare la nuova specie superiore del pianeta".

Buterin ha sostenuto che, a differenza dei cambiamenti climatici, di una pandemia causata dall'uomo o di una guerra nucleare, l'IA superintelligente potrebbe potenzialmente porre fine all'umanità e non lasciare sopravvissuti, soprattutto se considera gli esseri umani come una minaccia alla propria sopravvivenza. 

"Un modo in cui l'IA sbagliata potrebbe peggiorare il mondo è (quasi) il peggiore possibile: potrebbe letteralmente causare l'estinzione umana".

"Persino Marte potrebbe non essere sicuro", ha aggiunto Buterin.
Buterin ha citato un sondaggio condotto ad agosto 2022 da oltre 4.270 ricercatori di apprendimento automatico, che ha stimato una probabilità del 5-10% che l'IA uccida l'umanità.
Tuttavia, se da un lato Buterin ha sottolineato che affermazioni di questo tipo sono estreme, dall'altro ci sono anche modi per far prevalere gli esseri umani.

Interfacce cerebrali e tecno-ottimismo

Buterin ha suggerito di integrare le interfacce cervello-computer (brain-computer interface, BCI) per offrire agli esseri umani un maggiore controllo su potenti forme di calcolo e cognizione basate sull'intelligenza artificiale.
Una BCI è un percorso di comunicazione tra l'attività elettrica del cervello e un dispositivo esterno, come un computer o un arto robotico.
Ciò ridurrebbe il ciclo di comunicazione bidirezionale tra l'uomo e la macchina da secondi a millisecondi e, cosa più importante, garantirebbe agli esseri umani un certo grado di "autonomia significativa" sul mondo, ha affermato Buterin.

Diagramma che illustra due possibili cicli di feedback tra esseri umani e IA. Fonte: Vitalik.eth

Buterin ha suggerito che questa strada sarebbe più sicura, in quanto gli esseri umani potrebbero essere coinvolti in ogni singola scelta effettuata dalla macchina AI.

"Possiamo ridurre l'incentivo a scaricare la responsabilità della pianificazione di alto livello sull'IA stessa, riducendo così la possibilità che l'IA faccia da sola qualcosa di totalmente non allineato con i valori dell'umanità".

Il cofondatore di Ethereum ha inoltre suggerito "l'intenzione umana attiva" di portare l'IA in una direzione che sia vantaggiosa per l'umanità, poiché la massimizzazione del profitto non sempre conduce gli esseri umani sulla strada più desiderabile.

Buterin ha concluso che "noi, esseri umani, siamo la stella più luminosa" dell'universo, in quanto abbiamo sviluppato la tecnologia per espandere il potenziale umano per migliaia di anni e, si spera, per molti altri ancora:

"Tra due miliardi di anni, se la Terra o qualsiasi parte dell'universo porterà ancora la bellezza della vita terrestre, saranno gli artifici umani come i viaggi spaziali e la geoingegneria ad averlo reso possibile".