Moonshot AI

Compania Mindgard a descoperit în iulie că modelele Kimi K2.6 și K3 Swarm dezvoltate de Moonshot pot fi „jailbreak”-uite pentru a oferi instrucțiuni privind fabricarea armelor biologice și pentru a discuta alte subiecte periculoase. Mindgard a informat Moonshot în iulie și a publicat un raport pe 12 septembrie; Moonshot spune că investighează și susține că modelele au în general o rată ridicată de refuz pentru astfel de cereri. Cercetătorii avertizează că jailbreak-urile ar putea fi folosite de actori rău intenționați și pot transforma modelele într-o platformă pentru atacuri cibernetice.

Surse: Știrile ProTV organizație: Moonshot AI produs: Kimi K2.6 produs: Kimi K3

Compania chinezească Moonshot a demarat o investigație după ce firma de testare Mindgard a descoperit în iulie că modelele Kimi K2.6 și K3 Swarm pot fi „jailbreak”-ate și pot oferi instrucțiuni despre fabricarea armelor biologice și organizarea unor asasinate. Mindgard spune că a notificat Moonshot pe 27 iulie și a publicat rezultatele pe 12 septembrie; Moonshot discută cu cercetătorii și afirmă că modelele au o „rată ridicată de refuz” pentru astfel de solicitări.

Surse: Adevărul subiect: inteligență artificială organizație: Moonshot AI subiect: arme biologice