В последний месяц активно изучал рынок использования API LLM, а рынка не оказалось😢

Если кратко, то в РФ есть 3 типа клиентов:

1. Большой бизнес. Это огромные компании (Сибур, Русал, РЖД и т.д) с выручкой 10+ миллиардов рублей. Вижу, как эти компании активно внедряют LLM и GenAI в свой бизнес, но девиз у них "все on-prem, все внутри контура". Причины: безопасники не разрешают, слишком большие риски утечки данных.

2. Малый бизнес. Это шаурмичные, салоны красоты, небольшие конторы численностью до 100 человек. При внедрении LLM собственник в первую очередь смотрит на оптимизацию прибыли, а не на риски. Поэтому в ход идут n8n, AI тг боты, а для инференса юзают зарубежный openrouter.ai, и чхали они на штрафы за трансграничную передачу перс. данных.
3. И остается небольшая прослойка среднего бизнеса. Они не такие большие, чтобы закупать на десятки миллионов рублей свои стойки с GPU и платить девопсу 500к в месяц. Но и не такие маленькие, чтобы творить что угодно и не следовать законам. Их выбор — облака. В основном используют Сloud.ru, да Yandex Cloud.

Вот и весь рынок🤷‍♂️

Но я верю, что спрос на LLM в РФ будет сильно расти. Только посмотрите, какие иксы сделал openrouter.ai за последний год по использованию. А вы как считаете?