În flăcări Tehnologie publicată actualizată acum 1 h

Anthropic a introdus măsuri care reduc cu până la 99% extragerea de date din modelele Claude

Anthropic anunță că noile mecanisme de protecţie au redus cu aproximativ 90–99% cantitatea de date extrase din modelul Claude prin atacuri de tip „distilare” şi că a blocat zeci de mii de conturi asociate acestor campanii. Măsurile limitează accesul la procesele de raţionament ale modelului şi sunt prezentate ca răspuns la competiţia tehnologică intensificată între Statele Unite şi China. Compania a indicat startupul chinez Z.ai ca exemplu de actor care ar fi încercat astfel de practici.

Pe scurt

  • Noile mecanisme de protecţie ale Anthropic reduc cu aproximativ 90–99% datele extrase din Claude prin atacuri de tip „distilare”.
  • Numărul tokenurilor de raţionament extrase de atacatori este acum de 10 până la 100 de ori mai mic decât înainte, potrivit companiei.
  • Anthropic a blocat zeci de mii de conturi asociate campaniilor de distilare.
  • Compania limitează folosirea reţelelor de servere intermediare şi afirmă că sistemul are o rată a fals pozitive sub 0,1%.
  • Anthropic a menţionat startupul chinez Z.ai (Zhipu) ca exemplu de entitate care ar fi încercat să reproducă capacităţile Claude în dezvoltarea GLM-5.3
Etichete: Anthropic Claude distilare China SUA securitate cibernetică Z.ai GLM-5.3

Surse (1)

Acest text este un rezumat generat automat din sursele de mai sus; verificați întotdeauna articolele originale.@elseMaterial original publicat de Știri pe foc. Raportează o problemă