🟣 В мире AI внезапно™ случился уроборос: Администрация киберпространства Китая (CAC) начала расследование в отношении ИИ-стартапов DeepSeek и Moonshot AI, а также вызвала на допрос представителей еще пяти технологических компаний (включая Alibaba и Xiaomi). Регулятор проверяет, имела ли место несанкционированная передача конфиденциальных данных на американские серверы. И это на фоне того, что американским компаниям, связанным с государством, де-факто запрещено использовать китайские LLM, и есть перспектива полного запрета для всех – как раз, ввиду высокого риска утечки конфиденциальных данных в Китай.🤪

Дело заварилось после того, как американская компания Anthropic опубликовала отчет, в котором утверждала, что китайские компании массово использовали прокси-серверы и фальшивые аккаунты для тайного перенаправления запросов своих пользователей напрямую в Claude. Полученные ответы использовались для обучения собственных моделей (метод дистилляции). Масштабы утечки впечатляют: По данным Anthropic, Moonshot AI перенаправила более 23 миллионов запросов с мая по июль, а DeepSeek — 12,1 миллиона запросов всего за две недели июля. В американскую LLM попали внутренние корпоративные документы, персональные данные, а также чувствительные запросы инженеров, связанных с китайской полицией КНР, армией и госструктурами.😂

Аналитики считают, что официальное расследование - это такой реверанс Пекина в сторону США в преддверии визита Си Цзиньпиня в США для встречи с Дональдом Трампом. Предполагается, что там будут обсуждаться, в том числе, проблемы регулирования «искусственного интеллекта», и это дело должно показать готовность КНР принять какие-то правила регулирования (в принципе, это неплохо).

Что из этого следует практически? Да, собственно, ничего, кроме подтверждения старого тезиса: всё, так или иначе загруженное в публичные LLM, улетает вообще неизвестно куда. Поэтому не надо им сообщать лишнего.

#теория и #безопасность

P.S. Нет, я не знаю, не висят ли российские LLM таким же присосавшимся паразитом на китайских сервисах. Но не удивлюсь, если это окажется правдой, и что запросы российских турбопатриотов в конце-концов ретранслируются в США, вместе со всеми данными.🧐
P.P.S. Особенно внимательными надо будет стать, если «суверенные» языковые модели внезапно начнут демонстрировать какие-то невероятные результаты, не располагая и сотой долей вычислительных мощностей топовых моделей.👈