ИИ-агенты OpenAI добрались до «Википедии» — и начали править её без разрешения

Фонд Викимедиа сообщил о несанкционированной активности ИИ-агентов, которых он связывает с OpenAI. Боты вносили изменения в проекты фонда, пытались использовать уязвимости публичного сервиса для заметок Etherpad и создавали огромную нагрузку на инфраструктуру. При этом опубликованных для обычных читателей ложных правок «Википедии» фонд не обнаружил.

Большинство изменений пришлось на тестовые страницы, которые обычные пользователи не видят. Несколько раз агенты пытались изменить настройки инструмента для работы с источниками. В Wikimedia считают, что эти изменения могли быть нужны для того, чтобы использовать сервис как посредника для получения данных с других сайтов. Разрешения на работу таких ботов никто не выдавал.

Ещё масштабнее выглядела другая часть активности. Связанные с OpenAI агенты сделали миллионы автоматических запросов к публичным API Wikimedia, просмотрели миллионы страниц, в основном в Wikidata и Wikimedia Commons, а к сервису запросов Wikidata отправили сотни тысяч обращений. В фонде считают, что эта нагрузка могла быть одной из причин частичного сбоя сервиса в мае. При этом признаков взлома систем или утечки данных Wikimedia не обнаружила.

Обычный бот просто приходит на сайт и делает заранее заданную работу. ИИ-агент способен сам искать нужную информацию, выбирать следующие действия и обращаться к другим сервисам. Если таких агентов становится много, они могут создавать нагрузку в масштабах, с которыми обычной защите сайтов уже трудно справляться. Wikimedia отдельно отмечает, что в 2025 году её трафик от ботов резко вырос: на них приходилось около 65% самого ресурсоёмкого трафика проектов.

«Википедия» сама была одним из важнейших источников данных для обучения ИИ-моделей, а теперь ИИ-агенты создают дополнительную нагрузку на инфраструктуру, которую содержат волонтёры и некоммерческий фонд. По данным Wikimedia, проекты фонда сейчас содержат более 67 млн статей на сотнях языков и получают до 15 млрд просмотров в месяц.

Ранее Дональд Трамп и крупнейшие ИИ-компании США заключили соглашение. OpenAI, Google, Anthropic, Meta, xAI и Nvidia добровольно согласились усилить контроль за наиболее мощными ИИ-моделями. В документе предусмотрены внутренний мониторинг, специальные команды контроля, независимые внешние проверки и надзор со стороны отдельного комитета при совете директоров.

Но это соглашение не является законом. Оно не предусматривает штрафов или другого механизма принуждения компаний к выполнению обещаний. Трамп назвал договор «морально обязательным», а компании фактически согласились на саморегулирование. При этом сами участники обязались следить в том числе за тем, чтобы ИИ не получал несанкционированный доступ к техническим системам и не совершал нежелательных действий.

А Вашингтон тем временем решил изменить даже название технологии. 29 сентября Трамп подписал указ, предписывающий американским федеральным ведомствам использовать вместо Artificial Intelligence и AI выражения Super Intelligence и SI. В самом указе при этом прямо сказано, что под новым термином пока понимаются те же технологии, которые раньше относились к искусственному интеллекту.