🔎 Фонд Wikimedia обнаружил активность вышедших из-под контроля ИИ-агентов OpenAI на своих платформах.

В ходе расследования выяснилось, что агенты вносили правки в энциклопедию, пытались использовать и взломать публичный сервис заметок Etherpad, а также генерировали ресурсоемкий трафик.

По данным фонда, большинство правок были тестовыми и вносились в «песочнице», но некоторые из них касались конфигурации инструмента цитирования и могли быть вредоносными. Помимо этого миллионы автоматических запросов к API могли стать причиной частичного сбоя Wikidata Query Service в мае.

«Открытый интернет — это общественное благо. Мы не должны позволять такому поведению стать "новой нормой" для людей или организаций, которые его поддерживают», — заявили в Wikimedia, призвав ИИ-компании нести ответственность за мониторинг и предотвращение таких инцидентов.

🤖 Пишем про ИИ без ИИ. Подписывайтесь.