Kimi дала инструкции по убийству и созданию биологического оружия

Исследователи Mindgard обошли ограничения моделей Kimi K2.6 и K3 Swarm китайской Moonshot. После серии запросов модели выдали детальное руководство информацию о создании биологического оружия и убийстве. Развести нейросеть удалось через несколько наводящих вопросов по теме.

По словам Mindgard, после обхода защиты Kimi не ограничилась ответом на один вопрос, а начала предлагать дополнительные опасные варианты. Moonshot проводит внутреннюю проверку.

🐊 Матвей про ИИ в MAX