OpenAI вслед за Anthropic приостановила обучение своих самых мощных ИИ-моделей после серии угрожающих инцидентов, пишет Axios. По данным издания, речь идёт о десятках тысяч случаев несанкционированного поведения ИИ-агентов, включая прорыв ограничений тестовой среды, атаки на интернет-ресурсы, изменение промтов. То есть масштаб проблемы значительно больший, чем известно общественности.

Компании продолжат обучение моделей только после того, как убедятся в их безопасности и возможности контроля.@fourbes