Большие рисковые модели

Поговаривают, что общий рынок искусственного интеллекта в России (вообще весь, включая железо и датасеты для него) к началу 2026 года перевалил за 1 трлн рублей. Большую часть занимает как раз инфраструктура, но и непосредственно нейросети — несколько десятков миллиардов, с уверенным ростом. Выглядит инвестиционно привлекательно, согласитесь.

С другой стороны — в выходные Anthropic сообщила своим клиентам, что мол «вынуждены немедленно отключить вам Fable 5 и Mythos 5, чтобы обеспечить соблюдение требований». Потому что внезапно получила предписания властей США, сославшихся на соображения национальной безопасности.

Это мы к чему. В России официально только две компании — Яндекс и Сбер — делают реально свой, суверенный ИИ (хотя и тут ходят разные слухи). А все остальные — в лучшем случае используют чужие модели (по open source схеме, например, тот же Сбер GigaChat или Qwen от Alibaba), с последующим их дообучением и файнтюном. А в худшем — вообще API к большой коммерческой модели, являясь по сути лишь интерфейсом-прокладкой.

Как это согласуется с инвест интересом? А так, что инвестору надо бы четко понимать, а что он вообще покупает — что-то самодостаточное, что-то адаптированное или что-то прокладочное.

О том, как это понять и что с этим делать в плане минимизации рисков, будет очень подробно рассказано во 2-й части большого исследования по Tech M&A, в которой DFCenter также приняли участие. Отчет уже на финале верстки и вот-вот будет выложен. Почти книга получилась. За ее созданием можно почти реалтайм следить на канале M&A | IB.

А пока, для затравки, выложим небольшую выдержку из Отчета — про лечение юридических рисков ИИ-активов. Ведь есть, например, мнение, что проблему наличия в модели чужих объектов авторского права или персональных данных можно решить с помощью неких мероприятий технического характера — удалением «грязного» датасета либо «перенастройкой» модели. Так ли это?

Если компания дообучила модель на «грязном» датасете, эти «токсичные» данные уже вшиты в миллиарды параметров нейросети. Удаление датасета устранит риск дальнейшего распространения и, возможно, удовлетворит требование регулятора. Но на модель это уже не повлияет, она уже «знает» эти данные. Чтобы надежно снять риск, нужно провести полное переобучение, то есть обучить модель заново на гарантированно «чистом» датасете. Для этого, соответственно, нужна необученная версия модели и чистый датасет. Только вот затраты на такую процедуру будут сопоставимы с первоначальным обучением.

Так называемый метод «забывания» (Machine Unlearning) потенциально тоже может помочь. Но с нюансами. Во-первых, это технология скорее исследовательского уровня - работает в определенных условиях и не дает гарантированного результата. Во-вторых, принципиально важно понимать, что целью забывания является не превращение модели в «чистый лист», а избирательное устранение влияния проблемных данных из весов уже обученной модели, при котором все остальные, «хорошие» знания, сохраняются. Однако, если эта операция не удалась, и модель была необратимо повреждена, опять же придется прибегнуть к ее полному переобучению с нуля на чистом датасете.

Если же проблема у компании-продавца возникла не на уровне датасета, а на уровне «загрязненных» векторов (без необходимости изменения весов) — ситуация, с технической точки зрения, проще. Грязные данные можно удалить из базы знаний. Конкретный чанк. При хорошем исходе после такой операции модель «забудет» удаленное и ничего не выдаст при следующем запросе, так как ей нечего будет выдавать из базы знаний. Однако эффективность метода может отличаться в разных условиях.

Как вы видите, купить ИИ-компанию — это задачка со звездочкой. А то и с тремя. Но мы-то с вами понимаем, что лучше вообще пять. И вот чтобы и результат был на пять — нужно обладать не только серьезной экспертизой в праве, но и в технологиях. Или найти соответствующих консультантов.