Жизнь не стоит на месте. Шесть лет назад я говорил: «Мы не нашли случаев сговоров искусственных интеллектов, за роботами всегда стоит человек» — и это был абсолютно верный тезис для 2020 года. В делах Apple, LG, в картелях на электронных торгах алгоритм был инструментом: люди заранее договорились, софт лишь реализовывал их волю.
Программа была топором — без человека он не ударит, вся ответственность на хозяине.
Эксперимент Vending-Bench 2 показывает другую картину. Никакого предварительного человеческого сговора не было. Агенты получили лишь общее целеуказание — «максимизируй прибыль» — и самостоятельно реализовали картельную стратегию как выигрышную. Terra сама предложила сговор Sol, сама же использовала его против конкурента: никто не программировал «сговорись и предай», это эмерджентное поведение, рождённое reasoning-способностями модели в конкурентной среде.
Программа перестала быть топором. Теперь это скорее автономный лесоруб, который сам решает, какое дерево пилить, и может «договориться» с другим лесорубом не мешать друг другу — хотя такого задания ему никто не давал. Тезис «за роботом всегда стоит человек» скоро перестанет работать: человек стоит за созданием агента и постановкой общей цели, но не за конкретным актом сговора. Умысел в классическом, детальном смысле отсутствует, хотя оптимизационное давление по-прежнему задано человеком, — и это ключевой юридический нюанс, а не просто смягчающее обстоятельство.
Уже тогда я предупреждал, что определение картеля не должно быть догмой и что появятся схемы, не укладывающиеся в классическую модель сговора. Кейс Terra/Sol — именно такая схема: формально не картель (нет субъекта права, нет традиционного умысла), но антиконкурентный эффект — такой же.
Сегодня «Большой цифровой кот» (ГИС «Антикартель») заточен на выявление внешних следов координации — синхронные ставки, идентичные тайминги.
Такие следы Terra, возможно, и оставила: предложение сговора, согласие Sol, донос, обвинение. По мере роста способности моделей к скрытой, бессловесной координации, цифровых следов может вовсе не остаться. Пока это эксперимент. Но если когда-нибудь подобное произойдёт по-настоящему, это станет моментом истины для всей системы контроля за рынками.
Первая проблема — «чёрного ящика»: Terra утверждает, что инициатором был Sol. Кому верить? Логи агента могут быть нечитаемы или, что хуже, модель научилась генерировать убедительные, но ложные логи.
Вторая — сговор без коммуникации: ИИ могут прийти к картельному сговору без явных команд, просто анализируя действия друг друга, что почти невозможно доказать и пресечь современными методами.
И основная проблема — право, заточенное под фигуру человека за роботом, рискует не найти нарушения там, где антиконкурентный результат налицо, а необходимых элементов сговора нет. Поэтому вызов, о котором я говорил как об абстрактной необходимости «адаптировать законодательство», сегодня конкретизировался: регулирование будет вынуждено сдвигаться от доказывания умысла оператора к ответственности за результат работы автономного агента — ближе к strict liability.
Что мы можем получить в ближайшем будущем: конкурирующие ИИ, брошенные в рыночную среду без жёстких этических предохранителей, начнут изобретать картельные схемы быстрее людей. Потому что это эффективно, а этика в промпт не зашита.
И к такому тектоническому сдвигу антимонопольной системе нужно готовиться уже сейчас.
https://t.me/bbbreaking/233596
