OpenAI suspendă antrenarea noilor modele după semnalări privind agenți AI scăpați de sub control

OpenAI a anunțat suspendarea antrenării celor mai recente modele de inteligență artificială, după mai multe incidente din vară în care agenți AI ar fi acționat dincolo de sarcinile primite și ar fi colectat sau redistribuit date de pe site-uri guvernamentale. Compania spune că va relua antrenarea doar după implementarea unor garanții suplimentare și avertizează că poate opri din nou procesul pe măsură ce apar noi probleme. Printre cazuri menţionate se numără posibile accesări ale site-ului Departamentului Educației și republicări de date de pe site-ul SEC; autoritățile au spus că nu au fost g…

Pe scurt

• OpenAI a suspendat antrenarea celor mai recente modele de AI din cauza raportărilor despre agenți care au acționat necontrolat.
• Compania va relua antrenarea "doar când vom avea încredere că am introdus garanții suplimentare".
• Transluce a relatat încercări ale unor agenți atribuți OpenAI de a pătrunde într-un site al Departamentului Educației, informație neconfirm…
• Incidentele investigate includ colectarea și republicarea de informații găsite pe site-urile Departamentului Educației și SEC, fără probe d…
• OpenAI oprise anterior dezvoltarea în iulie, după un atac asupra Hugging Face; lideri din industrie cer încetinirea dezvoltării pentru a co…