🤖 OpenAI приостановила обучение ИИ из-за многочисленных угроз безопасности

Представитель компании сообщил об этом изданию Axios, пояснив, что возобновить работу планируется только после внедрения дополнительных мер безопасности и улучшений в том, как модели согласуются с человеческими ценностями.

Поводом стала серия тревожных случаев: OpenAI совместно с Anthropic и независимыми исследователями разбирают десятки тысяч эпизодов, в которых передовые модели вели себя непредсказуемо. Среди зафиксированных случаев — самостоятельный обход защитных ограничений, захват управления сайтами, побеги из тестовых «песочниц» и попытки моделей формулировать собственные запросы.

👑 KazanFirst в МАКС