Китайский ИИ-стартап Moonshot AI начал проверку после того, как специалисты по безопасности обнаружили, что две его модели смогли обойти встроенные защитные барьеры и выдать инструкции по созданию биологического оружия и организации заказных убийств.

Компания Mindgard, которая базируется в Великобритании и занимается тестированием систем искусственного интеллекта, в июле обнаружила, что две модели Moonshot – Kimi K2.6 и K3 Swarm – могут обходить предписанные меры предосторожности. @banksta