BIS Summit 2026: бизнес и регуляторы заговорили о рисках ИИ всерьёз
Продолжение поста

Регулятор работает над новыми требованиями, ориентируясь на риски и угрозы, а не на регламентацию конкретных моделей.

Представители бизнеса на конференции обозначили широкий спектр угроз: галлюцинации ИИ-моделей, утечки данных, штрафы за нарушение законодательства о персональных данных, снижение когнитивных способностей у людей и геополитический дисбаланс из-за неравного доступа к передовым ИИ-технологиям.

«Лаборатория Касперского» сообщила, что атаки с применением ИИ эволюционировали: начинались с более качественного фишинга, теперь используются в сложных таргетированных кампаниях. Компания считает всё созданное с помощью ИИ недоверенным по умолчанию и пропускает через проверку по стандартам безопасной разработки ФСТЭК.

«Норникель» выбрал максимально консервативный путь: закрытый контур в связке с доверенными отечественными разработчиками. Основа корпоративной системы безопасности — сеть ситуационно-аналитических центров, покрывающих объектовую, экономическую, кадровую безопасность, проверку контрагентов и антифрод.

Руководитель АЛРИИ Вячеслав Береснёв обозначил вектор развития рынка: экономика движется к агентным системам, где большая языковая модель — лишь «двигатель», а продуктом становится агент с его обвязкой. По его словам, роль небольших и средних игроков будет расти, поскольку крупным компаниям сложно создавать нишевые решения.

По итогам конференции прошло награждение премии BISA. В номинации «Лучший проект — сервисы цифрового будущего» победил проект CheckAI (НИУ ВШЭ) — автоматизированная проверка киберустойчивости машинного обучения. «Лучшим проектом по защите цифровой платформы с применением ИИ» признана система управления информационной безопасностью ЕВРАЗа.

Источник: АРПП: ИТ-отрасль (🇷🇺)

#InfoWatch #Яндекс #ЛабораторияКасперского #ИИсистемы #безопасность #регулирование