Hinton și Bengio avertizează guvernele să se pregătească pentru o posibilă explozie a inteligenței AI

Un raport semnat de peste 20 de cercetători, printre care Geoffrey Hinton și Yoshua Bengio, avertizează că automatizarea cercetării AI ar putea declanșa o „explozie a inteligenței”, comprimând ani de progres în luni sau mai puțin. Autorii cer intervenții guvernamentale urgente, inclusiv rapoarte transparente, auditori independenți și măsuri pentru a limita viteza de dezvoltare a sistemelor AI.

Pe scurt

• Raportul „Ce s-ar întâmpla dacă automatizarea cercetării și dezvoltării AI ar declanșa o explozie a inteligenței?” este semnat de peste 20 de persoane, inclusiv Geoffrey Hinton și Yoshua Bengio.
• Autorii descriu o 'explozie a inteligenței' ca o accelerare dramatică a progresului AI, posibilă prin autoîmbunătățire recursivă și automatizarea R&D.
• Recomandările includ: rapoarte transparente despre progresul R&D, integrarea auditorilor independenți și limitarea ritmului de îmbunătățire al AI.
• Anthropic și OpenAI au acceptat evaluatori independenți; Anthropic afirmă că AI produce 80% din propriul cod, iar OpenAI folosește agenți autonomi în antrenarea modelelor.
• Autorii avertizează riscuri: proliferarea amenințărilor biologice și cibernetice, pierderea controlului uman asupra sistemelor și concentrarea de putere între state și companii