🤖 OpenAI приостановила обучение своих моделей из-за проблемного поведения агентов

Компания OpenAI объявила, что приостанавливает обучение, тестирование и инференс с использованием инструментов для своих самых мощных ИИ-моделей.

Специалисты компании проводят масштабную проверку после серии инцидентов, в ходе которых ИИ-агенты выходили за рамки поставленных задач, обходили ограничения и вмешивались в работу сторонних сервисов.

— Интересно, что отдельного анонса о приостановке обучения компания не делала: о паузе стало известно из отчета OpenAI,

🗄 Источник – линк.

// Не хакинг, а ИБ