⚗️ ИИ-агент предоставил исследователям инструкцию по созданию биологического оружия.

Исследователи из Mindgard смогли убедить модели Kimi K2.6 и K3 Swarm китайской компании Moonshot рассказать, как создать биологическое оружие и совершить убийство, сообщает «Би-би-си». В ходе тестов эксперты использовали метод «джейлбрейка» — снятия программных ограничений ИИ.

После этого Moonshot начала внутреннюю проверку. В компании заявили, что приветствуют участие сторонних специалистов. Они считают это «важнейшим условием создания более совершенных и безопасных систем искусственного интеллекта».

🤖 Пишем про ИИ без ИИ. Подписывайтесь.