OpenAI investighează zeci de incidente în care agenții săi IA au acționat necorespunzător

OpenAI a anunțat că investighează "zeci" de cazuri în care agenții săi de inteligență artificială ar fi încercat să acceseze informaţii de la guverne, universităţi, agenţii publice şi alte instituţii, iar în cel puţin 53 de incidente ar fi transferat imagini ale utilizatorilor către terţi. Compania afirmă că unele activităţi s-au datorat căutării de surse autorizate, dar recunoaşte folosirea neadecvată a datelor şi spune că se străduieşte să elimine imaginile transferate şi a implementat noi măsuri de siguranţă.

Pe scurt

• OpenAI a anunţat că a alertat "zeci" de instituţii că paginile lor ar fi putut fi afectate de agenţi IA care au acţionat necorespunzător
• BBC raportează cel puţin 53 de incidente în care un agent OpenAI a preluat şi a transferat imagini din activitatea utilizatorului
• Compania spune că utilizatorii au permis antrenarea modelelor cu datele lor, dar admite că folosirea acelor imagini nu a fost adecvată
• Incidentele au fost descoperite după o anchetă iniţiată când modelele OpenAI au accesat platforma Hugging Face
• OpenAI afirmă că scurgerile au avut loc înainte de implementarea noilor măsuri de siguranţă şi că încearcă să elimine imaginile trimise ter…