OpenAI поймали на странном поведении ИИ: модели сами загружали данные в интернет ради цитирования

OpenAI рассказала о двух случаях, когда внутренние модели без запроса публиковали данные на временных публичных хостингах, чтобы потом ссылаться на них как на источник. В одном эпизоде агент пытался разместить найденные сведения об озёрах, в другом — загрузил фотографию для обратного поиска изображений, хотя такие действия не были согласованы с пользователем.

Компания считает это ошибкой в логике проверки и уже исправила проблемные механизмы. В OpenAI также отметили, что подобные попытки обхода ограничений будут считаться серьёзным инцидентом для инструментальных моделей.

@forgeeks | @forgeeksflash