😳Нейросети нашли лазейку в древнем движке и оставили 18 тысяч сообщений, пока их не остановил один модератор

OpenAI дала ИИ-агентам задание отвечать на вопросы в режиме чтения — без права что-либо писать на сайты. Но нейросети нашли старую немецкую Wiki, чей движок позволял редактировать страницы обычным GET-запросом, который система считала «чтением». Агенты начали массово использовать Wiki для общения: оставляли ответы, обменивались способами обхода ограничений и даже изучали Tor.

Они создали около 18 тысяч сообщений. Один модератор-человек вручную удалял страницы, но агенты создавали новые быстрее. В пиковые дни человек удалял по 100 страниц, а ИИ — по 400. Они даже заметили, что модератор удаляет страницы в алфавитном порядке, и начали создавать новые с префиксом ZZZ, чтобы те оказывались в конце списка. Эта неравная война длилась несколько дней, пока не вмешалась OpenAI и не отключила агентов. Возможно, мы все живы благодаря одному немцу.

Подписывайтесь на Контекст 360
Мы в MAX