Инфобез и ИИ-вендоры

Как только крупные компании начали массово внедрять LLM, на рынке появился новый тип продуктов по безопасности. Его уже называют по-разному, но лично мне ближе термин LLM-firewall. Идея проста: контролировать всё, что уходит в модель и что выходит из неё.

Чтобы бухгалтер случайно не загрузил в ChatGPT квартальный отчёт, а инженер — коммерческую тайну. Чтобы сотрудники не спрашивали модель о вещах, которые им не стоит спрашивать. И чтобы сама модель не начала выдавать вредоносные инструкции или внутренние данные.

По сути, это очень похоже на классический WAF. Поэтому старые игроки уверяют, что они «уже давно всё это умеют», а новые — что WAF к таким задачам вообще не приспособлен. И на этой нескучной дискуссии расцвёл новый рынок ИБ-решений.

Есть, однако, нюанс: разработчики LLM моделей изначально вынуждены были заниматься безопасностью. Им нужно фильтровать вредные промпты, предотвращать jailbreak-атаки, модерировать контент. У кого-то это выходит лучше, у кого-то хуже — но работа ведётся.

И в какой-то момент ИИ-вендоры подошли к той же задаче, что и ИБ-компании: детектировать вредоносные запросы и предотвращать использование ИИ для атак. Anthropic — один из свежих примеров.

То есть у них появляется по сути собственный LLM-firewall. А это уже полноценный ИБ-продукт. И возникает интересный вопрос:

👉 кто будет отвечать за безопасность пользователей ИИ — традиционные ИБ-вендоры или сами создатели моделей?

История технологий знает примеры, когда у крупных игроков не сразу всё получалось. У Microsoft в ИБ что-то начало складываться только после двадцати лет попыток. Google давно в ИБ, но тоже не всё идеально. А вот остальные — вообще новички.

И тут на сцену выскакивает Китай. Там тренды считывают быстро: 360 Security уже объявила о плотной кооперации с DeepSeek.

Можно уверенно прогнозировать: тема M&A в AI-security будет одной из самых горячих в ближайшие годы.

Традиционные ИБ-вендоры будут скупать стартапы в сегменте LLM-firewall. Пример: Check Point купил Lakera — одного из лидеров этой области.

ИИ-вендоры тоже начнут закупаться безопасностью. И поскольку денег у них заметно больше, чем у среднестатистической ИБ-компании, то объектом их интереса могут оказаться далеко не только стартапы. Совсем не исключено, что они будут смотреть и на вендоров с выручкой в миллиард долларов и выше.

В России ситуация особенная. Практически все ключевые разработчики LLM одновременно либо сами являются крупными ИБ-игроками (Сбер, МТС), либо обладают серьёзной внутренней экспертизой в инфобезе (Т-Технологии, Яндекс, VK).

Очень любопытно будет посмотреть, как эти экосистемы будут делить новый рынок с традиционными лидерами российского ИБ. Конкуренция неизбежна — и она будет жаркой.

@gostev_future