În flăcări Tehnologie publicată actualizată acum 2 h

Anthropic anunță măsuri care reduc cu până la 99% datele extrase din modelele Claude prin atacuri de copiere

Compania americană Anthropic spune că noile mecanisme de securitate pentru modelul său Claude au redus cu 90–99% cantitatea de date extrase prin atacuri de tip „distilare” și că au blocat zeci de mii de conturi asociate acestor campanii. Măsurile limitează accesul la procesele de raționament ale modelului și au fost introduse pe fondul rivalității tehnologice dintre Statele Unite și China; Anthropic menționează startupul chinez Z.ai ca exemplu de actor care a încercat copierea.

Pe scurt

  • Anthropic afirmă că a redus cu aproximativ 90%–99% datele extrase din Claude prin atacuri de tip distilare.
  • Numărul de tokenuri asociate raționamentului extrase de atacatori este acum de 10–100 ori mai mic decât înainte, potrivit companiei.
  • Compania a blocat zeci de mii de conturi legate de campanii de distilare și a îngreunat accesul prin rețele de servere intermediare.
  • Anthropic spune că sistemul său de securitate are o rată a rezultatelor fals pozitive sub 0,1% și îl compară cu mecanismele folosite pentru a preveni dezvoltarea armelor biologice.
  • Anthropic indică startupul chinez Z.ai (Zhipu) drept exemplu de companie care ar fi încercat să copieze capacitățile Claude în timpul dezvoltării modelului GLM-5.3.
Etichete: Anthropic Claude distilare Statele Unite ale Americii Z.ai China

Surse (1)

Acest text este un rezumat generat automat din sursele de mai sus; verificați întotdeauna articolele originale. Raportează o problemă