ROMA (Public Policy Bytes) – Vi è una probabilità superiore al 10% che l’intelligenza artificiale possa causare l’estinzione del genere umano entro il prossimo decennio. A sostenerlo è Evan Hubinger, responsabile alignment science di Anthropic, le cui dichiarazioni seguono le dimissioni di Jacob Coxon, ricercatore della startup che sviluppa Claude.
In un post su X Coxon sostiene che sia Anthropic che OpenAI – suo precedente datore di lavoro “non stiano agendo in modo responsabile” riguardo allo sviluppo dell’IA. Secondo l’informatico, le aziende che sviluppano i modelli più avanzati sono impegnati in una corsa verso una “superintelligenza in grado di auto-migliorarsi”, processo che paragona al “giocare d’azzardo con le nostre vite”. Secondo Coxon, a breve emergeranno sistemi artificiali capaci di eseguire attacchi informatici su larga scala, acquisire potere e risorse e distruggere interi settori economici.
In risposta alle dichiarazioni di Coxon, Hubinger ha confermato la stima del rischio, sottolineando che gli sviluppatori del settore mettono seriamente in conto l’eventualità che le conseguenze possano rivelarsi letale per il genere umano. Hubinger ha inoltre precisato che, pur ritenendo che Anthropic stia facendo del suo meglio, l’azienda “non ha ancora un piano” per risolvere il problema della superintelligenza e non sembra essere sulla rotta giusta per trovarlo. (Public Policy Bytes) DVZ
