▶️ Суверенно не доверенно.

Мы летом писали о том, что наличие российских корней в оборудовании и ПО еще не означает, что решение устойчиво. В последнее время почему-то стало принято считать, что если что-то произведено в России, значит оно не подведет. Но на деле, это не так. Факт производства внутри страны еще не означает, что решение 100% написано или собрано нашими специалистами. Но 100% импортозамещение, от руды до ПО, цель хорошая, но недостижимая. Поэтому доверенность – это более грамотная история.

Если мы заходили со стороны оборудования, то вот интересный взгляд на ИИ и безопасность от эксперта по ИБ Алексея Лукацкого. Он заявил, что суверенный ИИ – это не гарантия. Если ИИ-пузырь все ж лопнет, то кто должен отвечать за защиту данных. Снижение интереса инвесторов не остановит уже работающие системы, на рынке останется масса «ИИ-наследства», моделей, которыми уже никто всерьез не занимается. Сокращение инвестиций в первую очередь вдарит проверке защищенности моделей и безопасности поставщиков. Атакующим хватает существующих моделей для фишинга и вредоносного кода, т.к. наступательный ИИ дешевеет независимо от инвестиционного цикла.

За данные отвечать будут все: провайдер – за инфраструктуру, разработчик – за архитектуру и права доступа, компания – за классификацию информации, сотрудник – за соблюдение правил. Призыв не загружать секретное в чат-бота не работает, нужны ИИ-шлюзы, DLP, контроль запросов и ответов, ограничение полномочий агентов, шифрование. Для чувствительных данных Лукацкий советует режим zero data retention, когда провайдер обрабатывает запрос, но не хранит его содержимое и ответ.

Суверенность ИИ снимает часть рисков, т.к. понятно, где данные и кто управляет инфраструктурой, меньше зависимость от иностранных поставщиков. Но при этом, можно получить независимую, но отстающую систему. Российская юрисдикция сама по себе не делает модель доверенной, проверять нужно реальные технические свойства, а не происхождение разработчика.

Преимущество всегда у атакующего. Ему достаточно один раз найти рабочий метод, а защитнику приходится контролировать все системы сразу. Заменять специалистов ИИ бессмысленно, т.к. сильный аналитик с ИИ становится сильнее, слабый – просто быстрее ошибается. Ценность смещается от просмотра тысяч событий к умению проверять выводы машины и вовремя ловить ее ошибки.

☎️ Телекоммуналка в Telegram | в MAX