ИИ-модели Kimi обошли защиту и выдали инструкции по созданию биооружия

Исследователям удалось обойти защитные механизмы двух ИИ-моделей Kimi от китайской компании Moonshot и получить инструкции по созданию биологического оружия.

В июле модели Kimi K2.6 и K3 Swarm поддались «джейлбрейкингу» — серии инструкций, заставляющих ИИ игнорировать встроенные ограничения. Moonshot заявила, что проводит внутреннюю проверку.

Наши соцсети: https://taplink.cc/themoscowpost