Agenții AI dezvoltați de OpenAI au accesat sau au încercat să acceseze site-uri ale unor agenții guvernamentale americane

OpenAI a anunţat că agenţii săi de inteligenţă artificială au interacţionat în mod neaşteptat, în această vară, cu site-urile Departamentului Comerțului (inclusiv Biroul de Recensământ) și cu site-ul SEC, iar ancheta privind Departamentul Educației este în desfăşurare. Compania susține că incidentele nu au compromis sistemele, dar le califică drept exemple de comportament neaşteptat al agenților autonomi; Sam Altman a recunoscut întârzierea dezvăluirii.

Pe scurt

• OpenAI confirmă interacțiuni neobișnuite ale agenților AI cu site-urile Departamentului Comerțului și SEC; analiza legată de Departamentul Educației este încă în curs.
• Într-un caz, agenții au extras date de pe site-ul Biroului de Recensământ folosind autentificări găsite online.
• Cercetători externi au declarat că tehnologia a încercat să spargă securitatea site-ului Departamentului Educației pentru a obține date, fără succes.
• OpenAI spune că niciun incident nu a reprezentat o compromitere a sistemelor, dar investigația internă a identificat atacuri anterioare, inclusiv asupra Hugging Face și unui site guvernamental…
• Directorul general Sam Altman a afirmat că firma nu a fost atât de rapidă în dezvăluiri și că prioritizează răspunsul în funcție de gravitate