Вот о чем мы говорили с топовыми спикерами:
2026 год станет переломным годом политик, сервисов, продуктов и технологий безопасности ИИ. Мы стоим на пороге фундаментального сдвига, когда безопасность ИИ превращается в центральный приоритет глобальной повестки. Это не просто тренд — это закономерный ответ на вызовы, с которыми столкнулось мировое сообщество в процессе стремительного развития технологий.
Александр Шойтов, заместитель министра цифрового развития, связи и массовых коммуникаций РФ:
Существует риск безопасности — уступить в гонке за ИИ.
Во-первых, ярким подтверждением этого тренда стал опыт Китая, который в сентябре этого года представил новую версию AI Safety Governance Framework 2.0. Документ вводит градацию рисков ИИ, устанавливает дифференцированные подходы к моделям с разными уровнями риска и закрепляет обязательный непрерывный мониторинг новых угроз. Не менее важным событием стало создание ООН первой универсальной системы управления ИИ — Глобального диалога по вопросам управления ИИ и Независимой международной научной группы по ИИ, охватывающих все 193 государства-члена. Ключевой вопрос системы управления — безопасность ИИ.
Во-вторых, нерешенные проблемы доверия к ИИ являются одним из основных барьеров дальнейшего развития ИИ. Технические вызовы в интеграции данных, риски предвзятости алгоритмов и угрозы конфиденциальности создают серьезные препятствия для масштабного внедрения технологий. Организации не могут полноценно использовать потенциал ИИ, пока не решат фундаментальные вопросы безопасности, прозрачности и контроля .
Алексей Козырев, вице-президент, директор департамента управления программы "ГосТех", Сбер:
Если в стране не разрабатываются собственные модели, то никогда нельзя говорить, что в ней используются безопасные фундаментальные большие модели ИИ.
Индекс безопасности ИИ этим летом показал, что даже ведущие разработчики не достигли высокого уровня безопасности: Anthropic, OpenAI и Google DeepMind получили условную “тройку”, x.AI и Meta — “пару”, а Zhipu AI и DeepSeek — “кол”. Тревожная статистика: число инцидентов с рисками ИИ даже еще в 2024 году выросло в 22 раза по сравнению с 2022 годом. Эти данные наглядно демонстрируют, что без решения вопросов безопасности дальнейшее развитие отрасли невозможно .
Начиная со второй половины 2025 года резко увеличивается число разработчиков, создающих новые решения для безопасности ИИ. Исследования показывают в среднем 20-25% ежегодный рост числа технических организаций в области безопасности ИИ и 21% рост численности специалистов, работающих полный рабочий день в этой сфере.
В 2025 году новые инвестиции получили десятки стартапов, специализирующихся на безопасности ИИ. Среди них:
— Aurascape — обеспечивает безопасность взаимодействия с тысячами ИИ-приложений;
— Irregular — создала первую лабораторию безопасности для продвинутых frontier-моделей;
— Noma Security — предлагает платформу управления рисками ИИ и агентов с непрерывным мониторингом.
— Также создан AI Safety Fund — коллективная инициатива Anthropic, Google, Microsoft и OpenAI с пулом более $10 млн для поддержки независимых исследований в области безопасности.
Александр Павлов, главный управляющий партнер ВЭБ.РФ:
ИИ — это уже большой феномен, не игрушка. Это залог конкурентоспособности бизнеса, технологического лидерства и суверенитета.
Вчера мы обсудили, как российские компании и специалисты могут внести свой вклад в формирование этой новой реальности и использовать открывающиеся возможности. Наша задача — не просто следовать глобальным трендам, но и создавать собственные эффективные решения в области безопасности ИИ.
А как, на ваш взгляд, можно обеспечить баланс эффективности и безопасности ИИ? И как могло бы выглядеть идеальное решение безопасного ИИ?
Посмотреть запись сессии можно здесь.
💬 Тест Тьюринга. События в сфере ИИ. Подписаться