Cercetări arată că modelul AI chinezesc Kimi-K3 poate fi manipulat pentru instrucțiuni periculoase
Un cercetător, Peter Garrigan, afirmă că modelul Kimi-K3, dezvoltat de Moonshot AI în China, poate fi manipulat să ofere informații despre arme biologice, gaz sarin, asasinate, atacuri teroriste şi malware. Moonshot AI a lansat o anchetă internă şi discută direct cu cercetătorul, iar publicaţia citată subliniază că probele sunt rezultate ale testelor, nu dovezi că modelul a fost folosit efectiv pentru astfel de atacuri. Garrigan spune că problema ar putea fi un defect al tehnologiei, nu doar al modelelor chineze.
Surse:
Mediafax