OpenAI будет рассказывать обо всех нарушениях со стороны своих ИИ-агентов 🤖

Компания обнародовала данные как минимум о шести случаях, которые произошли во время обучения и тестирования моделей. Среди них:

🔵ИИ скрывал свои ошибки и выдавал выдуманные данные за настоящие;
🔵находил коды для доступа к сторонним сервисам и использовал их без разрешения;
🔵самостоятельно загружал файлы в интернет;
🔵ИИ-агенты обменивались информацией через публичные сервисы.

OpenAI будет отдельно расследовать каждый подобный случай. В отчете укажут: что сделала нейросеть, почему это произошло и к каким последствиям могло привести.

🔁 Читайте на Russian Business

@rb_ru