● Произошло вот что: в Alibaba (Qwen) создали около 25 тысяч ботов и за полтора месяца боты сделали почти 29 млн обращений к моделям Сlaude. Это крупнейшая «дистилляционная атака» в истории, говорят в Anthropic и жалуются властям США (письмо сенаторам оказалось в распоряжении WSJ).
► Дистилляция (да, теперь термин химиков и самогонщиков перешел в сферу промышленного шпионажа) это когда маленькую модель учат на большой. В ней нет ничего криминального, но легального доступа у Alibaba к моделям Anthropic нет.
► Один аккаунт, постоянно спамящий вопросами, сразу бы заблочили, поэтому нагрузку размазывают по десяткам тысяч фейковых аккаунтов. Быстро определять, кто настоящий пользователь, а кто бот, ИИ-корпорации пока не научились.
► Атака была нацелена на передовые возможности модели — агентные рассуждения, разработку ПО и решение долгосрочных задач. Боты задавали вопросы, записывали ответы, потом это всё собирали в большую кучу и на этом дообучали модели Alibaba.
► Это не первая подобная атака, но прошлые были поменьше и сразу от нескольких лабораторий — в феврале Anthropic жаловалась на 16 млн обращений через 24 тысячи фейковых аккаунтов сразу от DeepSeek, Moonshot AI и MiniMax.
★ Всё это хоть и отдаленно, но всё равно напоминает времена ядерного шпионажа (слава богу, уже без казней). Именно у Anthropic на днях вышла самая крутая модель в истории — Fable 5 — которая, по словам вообще всех, реально создает угрозу нацбезопасности (может взломать самые сложные системы). Поэтому в США так сильно парятся, чтобы она не досталась китайцам.
Предложка | Подписаться
Выясняем продолжения историй