Hinton și Bengio avertizează guvernele să se pregătească pentru o posibilă explozie a inteligenței AI
Un raport semnat de peste 20 de cercetători, printre care Geoffrey Hinton și Yoshua Bengio, avertizează că automatizarea cercetării AI ar putea declanșa o „explozie a inteligenței”, comprimând ani de progres în luni sau mai puțin. Autorii cer intervenții guvernamentale urgente, inclusiv rapoarte transparente, auditori independenți și măsuri pentru a limita viteza de dezvoltare a sistemelor AI.
Pe scurt
- Raportul „Ce s-ar întâmpla dacă automatizarea cercetării și dezvoltării AI ar declanșa o explozie a inteligenței?” este semnat de peste 20 de persoane, inclusiv Geoffrey Hinton și Yoshua Bengio.
- Autorii descriu o 'explozie a inteligenței' ca o accelerare dramatică a progresului AI, posibilă prin autoîmbunătățire recursivă și automatizarea R&D.
- Recomandările includ: rapoarte transparente despre progresul R&D, integrarea auditorilor independenți și limitarea ritmului de îmbunătățire al AI.
- Anthropic și OpenAI au acceptat evaluatori independenți; Anthropic afirmă că AI produce 80% din propriul cod, iar OpenAI folosește agenți autonomi în antrenarea modelelor.
- Autorii avertizează riscuri: proliferarea amenințărilor biologice și cibernetice, pierderea controlului uman asupra sistemelor și concentrarea de putere între state și companii
Etichete:
persoană: Geoffrey Hinton
persoană: Yoshua Bengio
subiect: explozie a inteligenței
organizație: OpenAI
organizație: Anthropic
subiect: autoîmbunătățire recursivă
Urmărește Știri pe foc pe Facebook
Știrile importante ale zilei, rezumate în câteva rânduri, direct în feed. Fără clickbait, cu sursele indicate.
Urmărește pagina