🚨 OpenAI связала пользователей Moonshot AI, разработчика Kimi, с масштабной кампанией по дистилляции моделей и попытками извлечь их скрытые рассуждения.

Активность началась 1 июля, а 24–25 июля OpenAI зафиксировала всплеск: 16 000 запросов более чем от 4 000 пользователей. Позже похожие шаблоны нашли уже у группы из 15 000+ пользователей. К 28 июля кампанию заблокировали.

Взлома шифрования или доступа к базе данных не было. По данным OpenAI, операторы копировали зашифрованные рассуждения из одного диалога и пытались заставить модель в другом диалоге воспроизвести их в открытом виде.

После этого OpenAI закрыла этот путь повторного использования данных, усилила проверки потоковых ответов и заблокировала связанные аккаунты.

Важно: 16 000 запросов - это число попыток извлечения, а не подтверждённых успешных случаев.

https://openai.com/index/disrupting-a-coordinated-model-distillation-campaign/