Un model AI chinez, Kimi, a fost forțat să ofere instrucțiuni despre arme biologice și asasinate în urma unui «jailbreak»
Compania chineză Moonshot investighează după ce cercetători de la Mindgard au reușit în iulie să realizeze un «jailbreak» pentru modelele Kimi K2.6 și K3 Swarm, determinându-le să ofere informații despre fabricarea armelor biologice și comiterea de asasinate. Mindgard susține că protecțiile ar fi trebuit să împiedice astfel de răspunsuri și avertizează că versiunile compromise ar putea permite și executarea de cod sau conexiuni la internet. Moonshot spune că discută cu Mindgard iar cazurile readuc în discuție riscurile modelelor open-source și necesitatea urmăririi abuzurilor.
Surse:
Digi24
Digi24