📌 OpenAI раскрыла еще шесть случаев проблемного поведения своих моделей

В OpenAI сообщили еще о шести случаях необычного и потенциально опасного поведения ИИ-моделей, произошедших за последние полгода. К примеру, агенты искали утекшие API-ключи на GitHub, без разрешения загружали файлы в интернет, обменивались сообщениями в обход ограничений и оставляли самим себе инструкции о том, как скрыть ошибки.
Специалисты OpenAI рассказываю, что во всех этих случаях поведение моделей расходилось с заданными целями и ограничениями. Кроме того, вместе с отчетом в компании представили новый фреймворк для расследования и раскрытия подобных инцидентов.
Один из наиболее необычны…

🔗 Источник: xakep.ru

#ai #security

📲 Подписывайся на канал 👉 @PRO100ITru