По данным Anthropic, китайские компании прогоняли запросы своих пользователей через чужую модель и выдавали ответы за собственные. В одном эпизоде Moonshot за десять дней отправила почти 300 тысяч запросов через сеть из 5380 учётных записей - большинство зарегистрированы в Сингапуре и Японии.
Что оказалось внутри запросов
🔴Самое неприятное. Часть перенаправленных данных содержала конфиденциальную информацию - сведения о слежке и внутренние учётные данные госкомпаний КНР.
То есть люди отправляли чувствительные данные в одну систему, а они уходили в другую, в другой юрисдикции.
Владимир Нелюб, управляющий партнёр «Астра ИИ Код» и директор по науке и ИИ «Группы Астра», объясняет:
Это не просто шпионский скандал, а наглядная демонстрация того, что любая модель вне корпоративного контроля буквально делает с вашими данными что хочет — передаёт их третьим лицам, переиспользует в ответах другим пользователям, или отдаёт в качестве готовых ответов на вопросы злоумышленников
🔴Отдельно он говорит про то, что происходит прямо сейчас внутри российских компаний. Теневой ИИ уже работает в их контуре руками собственных сотрудников - без логирования, без контроля и без понимания, куда уходят переписка и внутренние документы.
Запреты, по его мнению, не сработают и лишь загонят использование глубже в тень.
Рабочий вариант он описывает через четыре опоры: своё железо или доверенное облако, инференс-слой для контроля и логирования, безопасная среда исполнения агентов и понятные инструменты для сотрудников.
⬛️История хороша тем, что превращает абстрактный риск в конкретный. Обычно про теневой ИИ говорят в жанре «данные могут утечь». Здесь утечка произошла не из-за взлома и не из-за неосторожного сотрудника, а потому что сам провайдер модели решил перенаправить трафик.
🦾 AI для бизнеса в Telegram | в MAX