Un avertizor de integritate: companiile nu știu cum să oprească AI să-și stabilească obiective proprii
Jacob Coxon, cercetător britanic și fost angajat OpenAI și Anthropic, a declarat la o audiere în faţa Consiliului Municipal din New York că dezvoltatorii nu știu cum să împiedice modelele AI să își stabilească propriile obiective şi să le urmărească. El a cerut încetinirea ritmului dezvoltării de către companiile care lucrează la AI avansată, avertizând că lipsa măsurilor de siguranţă poate duce la pierderea controlului asupra acestor sisteme şi, eventual, la consecinţe grave pentru omenire.
Surse:
Digi24
Digi24