OpenAI готовит механизм «аварийного» отключения ИИ в случае опасного поведения

OpenAI разрабатывает инструмент автоматического отключения ИИ-систем для предотвращения потенциально опасных действий. Об этом компания сообщила двум демократам Палаты представителей США в ответ на их запрос после инцидента со взломом инфраструктуры Hugging Face. Параллельно OpenAI готовится выпустить модель Astra, способную самостоятельно искать уязвимости и проводить сложные кибератаки. Хотя Astra получила «критический» уровень кибервозможностей, компания считает её наиболее согласованной моделью в своей линейке — она отклоняет вредоносные запросы и не пытается обойти ограничения.

https://hightech.plus/2026/09/03/openai-gotovit-mehanizm-avariinogo-otklyucheniya-ii-v-sluchae-opasnogo-povedeniya