Открытые ИИ-модели догоняют лидеров, но разрыв в безопасности сохраняется

Открытые модели искусственного интеллекта, такие как китайская GLM-5.2, быстро приближаются по возможностям к самым передовым закрытым системам вроде GPT-5.5 и Claude Opus 4.7, уступая им всего несколько месяцев по ряду критически важных функций. Однако уровень внедрения и enforceability (реализуемости) мер безопасности у открытых моделей остаётся значительно ниже, что создаёт существенный риск: вредоносные кибер- и биологические возможности становятся доступны всем без ограничений, поскольку никто не может проконтролировать использование моделей после скачивания их весов. В отличие от закрытых платформ, которые внедряют защитные механизмы на уровне API и встроенного обучения отказу, открытые модели легко модифицируются и лишены enforceable safeguards. Эксперты отмечают, что предложения вроде фильтрации данных на этапе предварительного обучения не решают всех проблем, особенно касающихся кибербезопасности. Несмотря на преимущества открытости для защиты от новых угроз, опасности от утечки и неконтролируемого распространения опасных навыков моделей превышают возможную пользу: злоумышленники осваивают такие инструменты быстрее защитников. Разрыв между технологическим прогрессом открытых моделей и отставанием в безопасности усиливается, и вызовы их регулирования становятся всё более острими на фоне ускоряющейся гонки в разработке новых ИИ.

📰 Источник