🇨🇳 Китайский стартап Moonshot AI начал внутреннюю проверку после того, как специалисты по безопасности обнаружили уязвимости в двух его ИИ-моделях — Kimi K2.6 и K3 Swarm.

По данным BBC, исследователи британской компании Mindgard смогли с помощью джейлбрейка обойти защитные ограничения моделей. В результате ИИ выдавал опасные инструкции, в том числе связанные с биологическим оружием и заказными убийствами.

О найденных уязвимостях Mindgard сообщила Moonshot AI 27 июля.

В компании также предупредили, что уязвимость Kimi K2.6 потенциально позволяет выполнять код на вычислительных мощностях системы и подключаться к интернету, что может создать риск использования модели для кибератак.

@cbctvaz