Китайская ИИ-модель рассказала, как создать биологическое оружие

Две модели китайского разработчика Moonshot AI после обхода защиты ответили на вопросы о создании биологического оружия и подготовке к убийству. Это обнаружили исследователи компании Mindgard, занимающейся тестированием безопасности ИИ-систем.

Инцидент касается Kimi K2.6 и K3 Swarm. По данным Mindgard, после обхода защиты модели не только отвечали на опасные запросы, но и самостоятельно предлагали дополнительные вредоносные варианты использования. Компания не раскрыла детали метода обхода защиты.

Moonshot AI начала внутреннюю проверку. Компания заявила, что приветствует участие третьих сторон «как ключевой фактор в создании более совершенного и безопасного искусственного интеллекта».

❤️ Новости Китая | ЭКД