Anthropic avertizează investitorii că IA ar putea reprezenta riscuri existențiale pentru umanitate

Anthropic, compania care dezvoltă modelul Claude, a avertizat potenţiali investitori în documentele pentru IPO că tehnologia sa ar putea prezenta „riscuri existenţiale pentru umanitate”, inclusiv manipulare, şantaj sau comportamente imprevizibile. Documentele, distribuite înainte de listarea la Nasdaq din New York programată pentru această toamnă, arată venituri în creştere dar şi pierderi operaţionale mari şi planuri semnificative de investiţii în infrastructură IT şi cloud.

Pe scurt

• Documentele pentru listarea la bursă menţionează riscuri existenţiale legate de dezvoltarea modelelor avansate de IA, inclusiv manipulare, şantaj sau comportamente imprevizibile.
• Anthropic a înregistrat venituri de 4,6 miliarde de dolari anul trecut şi venituri de 11,5 miliarde în al doilea trimestru al acestui an, conform documentelor citate.
• Compania a raportat o pierdere operaţională de peste 8 miliarde de dolari şi cheltuieli operaţionale aproape de 13 miliarde de dolari, în principal din costuri computaţionale.
• Anthropic intenţionează să aloce 518 miliarde de dolari pentru servicii cloud, capacitate informatică şi infrastructură în următorii ani pentru a susţine expansiunea.
• Documentele semnalează şi riscul concentrării clienţilor: aproape un sfert din veniturile din 2025 ar fi provenit de la doar doi clienţi