Опасность незащищенного интеллекта

В России стремительно зарождается рынок защиты ИИ-моделей — уже в следующем году сегменту пророчат объем в 1 млрд рублей. Речь идет о предотвращении утечек данных, формируемых нейросетями в процессе работы с пользователями. Подобные инциденты уже случались с крупнейшими ИИ в мире, например с DeepSeek и ChatGPT.

Стоит отметить, что «традиционные» средства кибербезопасности, используемые для охраны данных в крупных компаниях, не подходят для защиты больших языковых моделей. Для нейросетей нужны особые системы, способные отслеживать контекст, выявлять поведенческие аномалии и адаптироваться по мере роста и усложнения самих моделей.

По данным «Ъ», новые угрозы особенно опасны для финансов, промышленности, высоких технологий и e-commerce. Суммарно на эти сферы сегодня приходится более 80% атак. Остальные риски распределяются между государственными, образовательными и медицинскими учреждениями — инфраструктура и высокий объем трафика делают их уязвимыми.