În flăcări Tehnologie publicată actualizată acum 1 h

Cercetători concediați de OpenAI avertizează asupra riscurilor IA opace

Trei cercetători concediați de OpenAI au trimis o scrisoare board-ului companiei în care cer ca modelele de inteligență artificială să poată fi verificate pas cu pas, avertizând că raționamentul generat de IA riscă să devină ilizibil pentru supraveghetori umani. Demiterile au urmat acuzațiilor companiei că ar fi scurs informații sensibile; alţi cercetători au demisionat recent citând cultura de risc insuficientă. Managerii OpenAI recunosc importanţa verificabilităţii deciziilor modelelor, iar lideri din industrie cer încetinirea dezvoltării IA.

Pe scurt

  • Jasmine Wang, Tomek Korbak și Mikita Balesni, concediați pe 1 octombrie, au scris că modelele IA trebuie să ofere un text explicativ verificabil pas cu pas.
  • OpenAI îi acuză pe cei trei de transmiterea de informații sensibile către părți externe fără proceduri adecvate.
  • În ultimele săptămâni au existat alte plecări din OpenAI: Jacob Coxon a demisionat pentru a se alătura Anthropic, iar David Robinson a plecat criticând cultura de risc.
  • Managerii OpenAI afirmă că posibilitatea de a verifica raționamentul modelelor este «de cea mai mare importanță»; GPT-6 Astra ar fi mai dificil de monitorizat decât predecesorii săi.
  • Mai mulţi lideri din industrie, inclusiv Sam Altman şi Dario Amodei, au cerut o încetinire a dezvoltării IA; unii actori politici şi companii se opun
Etichete: inteligență artificială OpenAI GPT-6 Astra Anthropic Sam Altman Dario Amodei

Surse (1)

Acest text este un rezumat generat automat din sursele de mai sus; verificați întotdeauna articolele originale. Raportează o problemă