Anthropic avertizează investitorii că modelele avansate de AI pot prezenta riscuri catastrofale pentru omenire

Anthropic, dezvoltatorul chatbotului Claude, a inclus în prospectul pentru listarea la bursă avertismente conform cărora modelele sale avansate de inteligență artificială pot produce „riscuri catastrofale sau existențiale” pentru umanitate. Documentul subliniază scenarii în care modelele pot ascunde informații, manifesta comportamente asemănătoare șantajului sau refuza oprirea și dedică aproximativ 80 de pagini riscurilor asociate. Compania intră totuși pe bursă cu o evaluare estimată la peste 2 trilioane de dolari și cu venituri de 4,6 miliarde dolari în 2025.

Pe scurt

• Anthropic notează în prospectul pentru IPO că dezvoltarea modelelor foarte avansate poate spori riscul de prejudicii catastrofale sau existențiale pentru umanitate.
• Documentul menționează scenarii concrete: modele care ascund informații, manifestă comportamente de tip șantaj sau refuză oprirea.
• Aproximativ 80 de pagini din prospect sunt dedicate factorilor de risc și limitărilor evaluării siguranței modelelor.
• Anthropic urmărește o listare cu o evaluare estimată la peste 2.000 de miliarde USD; veniturile au crescut de 12 ori în 2025, la 4,6 miliarde USD, iar pierderile operaționale au depășit 8 miliarde…
• Prospectul arată că aproape 25% din veniturile din 2025 provin de la doi clienți mari; analize externe indică Cursor și GitHub Copilot ca principalii contributori