Un gruppo di ricercatori nel campo dell'intelligenza artificiale ha esortato le nazioni a creare un sistema di supervisione globale per prevenire potenziali "esiti catastrofici," qualora l'uomo perdesse il controllo dell'AI.
In una dichiarazione rilasciata il 16 settembre, un gruppo di esperti di intelligenza artificiale ha espresso il timore che questa tecnologia potrebbe causare danni ingenti se lasciata incontrollata:
"La perdita di controllo da parte dell'uomo o l'uso malevolo di questi sistemi potrebbero portare a esiti catastrofici per tutta l'umanità. Purtroppo, non abbiamo ancora sviluppato la struttura necessaria per controllare e salvaguardare l'uso di questa intelligenza avanzata."
I ricercatori hanno anche esortato le nazioni a istituire delle autorità per rispondere prontamente agli incidenti legati all'uso delle AI, nonché a sviluppare un "piano di emergenza globale:"
"Nel lungo termine, gli Stati dovrebbero sviluppare un regime di governance internazionale per prevenire lo sviluppo di modelli che potrebbero comportare rischi catastrofici globali."
La dichiarazione si basa sui risultati dell'International Dialogue on AI Safety (IDAIS) tenutosi recentemente a Venezia: si tratta del terzo meeting di questo tipo organizzato dal gruppo di ricerca statunitense no-profit Safe AI Forum.
Gillian Hadfield, professoressa della Johns Hopkins University, ha commentato su X: "Se fra tre mesi vi fosse una sorta di catastrofe, se ci accorgessimo che alcuni modelli sono in grado di migliorarsi autonomamente... come dovremmo comportarsi in questo caso?"
Fonte: Gillian Hadfield