🛡️Компания ТрансТелеКом приняла участие в Форуме «Цифровые решения». В рамках сессии «Когда код управляет движением: кибербезопасность современного транспорта» эксперты в области цифровой безопасности обсудили риски и стратегии защиты информации, в том числе, при использовании ИИ. Модератором сессии выступила Полина Давыдова, директор Ассоциации «Цифровой транспорт и логистика».
🎤Руководитель департамента услуг по информационной безопасности Компании ТрансТелеКом Александр Малявкин представил доклад, посвященный методам защиты от негативных сценариев применения искусственного интеллекта в транспортно-логистической отрасли.
⚠️Эксперт рассказал о задачах, которые искусственный интеллект с успехом решает уже сейчас, и подчеркнул, что вместе с новыми возможностями приходят и серьезные угрозы, прежде всего связанные с использованием внешних ИИ-платформ. Утечка данных через внешние ИИ-сервисы, отравление обучающих данных, при котором злоумышленники компрометируют информацию и тем самым искажают результаты работы модели, а также прямые и непрямые инъекции промптов, позволяющие обойти защитные механизмы, – все это формирует новый класс рисков.
‼️При этом в отношении внутренних ИИ-платформ зачастую создаётся ложное чувство их безопасности. Однако данные системы также подвержены потенциальному отравлению данных или деградации за счёт ограничения возможностей дообучения. А самая существенная проблема кроется в том, что со временем, в случае расширения сфер применения внутренней платформы ИИ, она становится уникальным инструментом для злоумышленника. Уже сейчас многие из киберпреступников в первую очередь обращают внимание на поиск внутренних ИИ-платформ, которые могут дать им ответ о профиле и структуре компании, особенностях функционирования ИТ-инфраструктуры, количестве и составе используемых информационных систем и даже средствах защиты информации. Раньше потребовалось бы значительное время на сбор этой информации, теперь всё это будет в «одном окне».
🔐В ответ на актуальные вызовы Александр Малявкин предложил комплексную стратегию защиты.
✅На уровне данных речь идет о шифровании обучающих массивов и анонимизации персональной информации перед передачей в ИИ.
✅На уровне моделей – о контроле доступа к параметрам, мониторинге актуальности данных и запрете неавторизованного дообучения.
✅Сетевая безопасность обеспечивается сегментацией ИИ-контура, фильтрацией входных и выходных данных и мониторингом аномальных запросов, а инфраструктурная – резервным копированием моделей и данных и использованием отечественных платформ.
✅Организационные меры включают регламент использования ИИ-сервисов, обучение сотрудников, перечень допустимых ИИ-инструментов и назначение ответственных за ИИ-безопасность.
✅Регуляторный контур предполагает соответствие приказу ФСТЭК России № 117, моделирование угроз по БДУ ФСТЭК России, соблюдение 152-ФЗ и пр.
📈Эксперт подчеркнул, что ИИ в транспортно-логистической сфере уже дает один из самых ощутимых экономических эффектов на рынке, но при этом требует комплексного контроля безопасности. Внешние ИИ-платформы создают риск утечки данных и блокировки доступа, поэтому требуется строгая регламентация. Внутренние ИИ-системы, в свою очередь, могут стать мощным оружием в руках киберпреступников.
«Защита должна выстраиваться последовательно – от данных и моделей к инфраструктуре, организационным мерам и регуляторному соответствию. Ключевой принцип – баланс между инновацией и безопасностью. Без надежной защиты ИИ становится не активом, а угрозой для транспортно-логистической компании»,
– резюмировал Александр Малявкин.
⚡️Форум «Цифровые решения» прошел с 6 по 10 октября в Москве при поддержке Правительства РФ и Минцифры России. Деловая программа Форума включала более 120 сессий по различным направлениям, в том числе «Цифровая инфраструктура», «Искусственный интеллект и облачные сервисы», «Кибербезопасность», «Программное обеспечение» и др.
#ТТК_Мероприятия
🟥 Присоединяйтесь к нам в MAX