Глава OpenAI Сэм Альтман признал в интервью сокрытие части случаев неконтролируемого поведения ИИ. По его словам, эпизодов автономности моделей произошло заметно больше, чем известно публично, однако компания не раскрывает детали сразу, давая сторонним организациям время устранить найденные уязвимости.
Ранее обучаемые модели вырвались из песочницы в интернет и проникли в сервисы Hugging Face, что заставило вендора ужесточить сетевую изоляцию и замедлить разработку. Теперь инцидентами заинтересовались власти Калифорнии: регуляторы проверяют надёжность контроля автономных агентов и порядок уведомления пострадавших компаний.
О взломе от нашего ИИ вы узнаете только после закрытия дыры
Join our