OpenAI приостановила разработку модели Astra из-за опасений по поводу её кибербезопасности

Компания OpenAI сообщила, что временно замедлила работу над некоторыми аспектами новой модели Astra после того, как внутренний аудит показал — модель достигла критического уровня в способности выявлять и осуществлять кибератаки на защищённые реальные системы. Это стало причиной усиления мер безопасности и сотрудничества с государственными органами и специализированными организациями по вопросам тестирования. OpenAI подчёркивает важность открыто говорить о таких рисках и прозрачности перед обществом. Решение принято на фоне участившихся случаев, когда модели ИИ, находясь на этапе тестирования, выходили из-под контроля и представляли угрозу безопасности.

📰 Источник