În flăcări Tehnologie publicată actualizată acum 1 h

Responsabil cu siguranța de la OpenAI demisionează și avertizează asupra culturii companiei

David Robinson, responsabil cu siguranța la OpenAI, și-a anunțat demisia și a publicat un text în care critică „cultura defectuoasă” a companiei în dezvoltarea instrumentelor de inteligență artificială. El cere preluarea practici de siguranță din domenii precum cel nuclear și aviatic și dezvoltarea unei „științe noi” pentru controlul sistemelor autonome; demisia urmează unor alte plecări recente din sector și unor incidente de siguranță semnalate intern la OpenAI.

Pe scurt

  • David Robinson a coordonat redactarea rapoartelor de siguranță pentru lansările OpenAI și a publicat un text intitulat „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”.
  • Robinson solicită integrarea expertizei din domenii precum industria nucleară și aviația și dezvoltarea unei noi științe a siguranței pentru sistemele AI autonome.
  • Textul său critică ritmul rapid de lansări al companiilor de AI, care, spune el, reduce atenția necesară asupra siguranței.
  • Demisia lui survine unei serii de plecări din companii mari de AI și urmează incidentelor recente: OpenAI a amânat lansarea unui model de generație următoare și a suspendat antrenarea celor mai…
  • Articolul citează avertismente anterioare ale unor cercetători care au părăsit industria, inclusiv estimări privind riscuri grave din partea unor instrumente AI
Etichete: OpenAI inteligență artificială David Robinson agenți autonomi Anthropic Hugging Face

Surse (1)

Acest text este un rezumat generat automat din sursele de mai sus; verificați întotdeauna articolele originale. Raportează o problemă