На Wikimedia нашли «непослушных» агентов OpenAI

Фонд Wikimedia зафиксировал активность ИИ-агентов, связанных с OpenAI, на своих проектах. Хотя критических взломов не произошло, боты создавали серьезную нагрузку и пытались использовать инструменты площадки в своих целях.

Вот что обнаружили специалисты:

• Правки в «песочницах» и попытки настроить инструменты цитирования для обхода ограничений.
• Безуспешные попытки взлома сервиса для заметок Etherpad.
• Миллионы автоматических запросов к API и базам данных, что приводило к частичным сбоям в работе сервисов.

В Wikimedia подчеркивают, что такие действия ложатся тяжким бременем на волонтеров и инфраструктуру. Фонд призывает разработчиков ИИ нести ответственность за поведение своих агентов, чтобы открытый интернет оставался доступным для людей, а не превращался в поле для автоматизированных атак.

рекомендуем:
@WikipediaToday