Sam Altman la ONU: dezvoltarea AI trebuie să rămână sub control uman

Sam Altman, directorul OpenAI, a avertizat la o reuniune a Consiliului de Securitate al ONU asupra riscurilor dezvoltării accelerate a inteligenței artificiale și a cerut ca deciziile importante să rămână sub controlul oamenilor și al guvernelor. El a susținut cooperarea internațională și reguli democratice, iar Dario Amodei (Anthropic) și Yoshua Bengio au reiterat îngrijorările privind riscurile pentru umanitate și necesitatea unor măsuri concrete.

Pe scurt

• Altman a cerut ca tehnicile de aliniere și siguranță să avanseze cel puțin la fel de repede ca modelele AI.
• A avertizat asupra pierderii controlului uman și asupra concentrării excesive a puterii în domeniul AI.
• Dario Amodei a spus că AI ar putea reprezenta un risc pentru umanitate și a propus norme internaționale, inclusiv interziceri legate de arm…
• Reuniunea, convocată de Franța în cadrul președinției Consiliului de Securitate, a abordat și riscul atacurilor cibernetice autonome.
• Altman a subliniat potențialul pozitiv al AI, comparabil cu o «Renaștere», dacă este folosită pentru a extinde capacitățile umane.