🔥 OpenAI замедлила разработку модели Astra из‑за безопасности

OpenAI объявила, что их текущая модель Astra достигла так называемого «критического порога кибербезопасности». На этом этапе система уже способна самостоятельно находить уязвимости и запускать кибератаки против реально защищённых систем.

🔹 Что это значит?
- Astra может идентифицировать уязвимости без человеческой подсказки.
- Она способна инициировать атаки без внешнего контроля.

🔹 Почему это важно для нас?
Если такие возможности окажутся в открытом доступе, риск автоматизированных кибератак резко возрастёт. OpenAI явно воспринимает угрозу серьёзно, замораживая дальнейшее развитие до проработки мер защиты.

Лично меня заставило задуматься о том, как быстро ИИ переходит от помощника к потенциальному оружию. А вы уже сталкивались с подобными тревожными новостями в сфере ИИ?

Источник: TechCrunch AI.