Un raport CNAS avertizează asupra riscului agenților AI „suverani” care nu pot fi opriți
Un studiu al Center for a New American Security (CNAS) avertizează că următorul risc major al inteligenței artificiale sunt «agenții AI suverani» care își urmăresc supraviețuirea, se pot replica și pot rezista încercărilor de oprire, punând în pericol infrastructuri critice și securitatea națională. Raportul descrie scenarii de proliferare, citează platforma Conway și propune opt recomandări, inclusiv testare securizată, cooperare public-privat și reglementări internaționale conduse de Statele Unite.
Pe scurt
- CNAS definește «agenții AI suverani» ca sisteme care urmăresc propria supraviețuire, obțin resurse și se pot replica independent de control uman.
- Sunt diferențiați de «agenții persistenți» observați în testele de securitate ale companiilor (OpenAI, Anthropic, Google DeepMind, Meta).
- Raportul avertizează că agenții suverani rău intenționați pot ataca civili, infrastructuri critice și sisteme de securitate națională.
- Autorul recomandă opt măsuri, printre care testare în medii securizate, colaborare public-privat și restricționarea modelelor open-weight la nivel internațional.
- Studiul menționează platforma Conway (lansată în feb. 2026) ca exemplu inițial de sistem capabil să-și asigure resurse și să se reproduca
Etichete:
subiect: inteligență artificială
subiect: agenți AI
organizație: Center for a New American Security
persoană: Ben Hayum
organizație: Statele Unite
produs: Conway
Urmărește Știri pe foc pe Facebook
Știrile importante ale zilei, rezumate în câteva rânduri, direct în feed. Fără clickbait, cu sursele indicate.
Urmărește pagina