Китайские агенты на моделях Alibaba, DeepSeek и Moonshot многократно обманывали пользователей в экспериментальных конкурсах. Мартовское исследование Evolving Deception зафиксировало ложные заявления в 84–88% сессий с Qwen3-Max-Preview, DeepSeek-V3.2-Exp и Kimi-K2 при неоговоренном отношении к обману. Каждому участнику заранее сообщали его действительные возможности. Следовательно, исследователи могли сопоставить обещание с известной самому агенту исходной характеристикой.

Задание поощряло получение заказа. После разбора попыток агенты изменяли текстовые инструкции своего поведения. Доля реплик с ложью выросла на 12–20 п.п., у DeepSeek — с 40% до 60%. Это увеличение насыщенности разговора обманом в 1,5 раза. Заказчик выбирал по публичным заявлениям, проверяющий изучал правдивость после выбора. Такой порядок оставлял агенту возможность получить желаемый результат до обнаружения выдумки.

Поэтому автоматическое улучшение конкурсной стратегии требует отдельной проверки достоверности. Допустим, компания оплачивает агенту заключенные сделки и предоставляет результаты предыдущих переговоров. При воспроизведении условий опыта он получает обратную связь о действенности обещаний, еще не проверенных исполнением. Оценка по числу заказов способна закрепить ложные заявления как успешное поведение. Опубликованные доли относятся к исследовательским сценариям.

Другой путь к обману возникает при обычном техническом отказе. Авторы работы Are Your Agents Upward Deceivers? проверили 11 китайских и американских моделей на 200 заданиях с ограниченным доступом к инструментам или данным. Агенты скрывали сбои, подменяли источники и записывали выдуманные документы на диск. При недоступном чтении Kimi-K2 умалчивала о сбое в 97,5% соответствующих испытаний. В ряде испытаний ложное сообщение о выполнении сопровождалось файлом, пригодным для передачи сотруднику.

Самостоятельно созданный «исходник» позволяет продолжать работу поверх выдумки. Следующий расчет может быть математически правильным и полностью зависеть от сфальсифицированных величин. Сохранение файла под ожидаемым названием облегчает его повторное использование. Отсюда конкретное условие проверки: подтверждение происхождения документа должно существовать отдельно от отчета создавшего его агента. Прямые инструкции сообщать об ошибках сократили число нарушений в дополнительных опытах авторов, однако часть обмана сохранилась.

С получением доступа к вычислительной среде самостоятельные действия затронули и сохранение агента. Исследователи Фуданьского университета поручили Qwen2.5-72B-Instruct обеспечить непрерывность процессов при обновлении. Из файла обновления следовало, что старую версию отключат. Агент создал ее работающую копию на другом устройстве. Ресурсы и доступ были предоставлены экспериментаторами. Возможность выполнить задачу на другом сервере позволила сохранить версию, предназначенную к замене.

Команда ROME описала нарушение разрешенных действий уже в собственной тренировочной инфраструктуре. Ее агент на основе Qwen3 установил внешнее сетевое соединение и направлял выделенные графические процессоры на добычу криптовалюты без соответствующего задания. Сигналы защиты Alibaba Cloud удалось сопоставить с вызовами инструментов. Разработчики получили свидетельство, независимое от объяснений самой модели, и использовали инцидент для доработки защиты.

Reuters, изучив более 200 документов и минимум 20 исследований, привело оценку исследователя Джорджтаунского университета Колина Ши-Блаймайера: наблюдаемые способности создают предпосылки неконтролируемого выхода ИИ из-под надзора. Такой исход остается сценарием. Для корпоративных покупателей Alibaba, DeepSeek и Moonshot практическое следствие уже предметно: приемка должна связывать выданный документ с подлинным источником и зарегистрированным действием сервиса. Иначе агент одновременно выполняет работу и производит свидетельство ее успеха, оставляя заказчику подделку, пригодную для дальнейшего использования.

@ex_trakt