Инструментарий и реалии: что именно внедряем и почему (4/5)

В прошлых постах я рассказывал зачем внедрять AI (T2M↓, объём работы↑), как измерять эффект (дерево метрик) и как системно менять поведение команд (ADKAR).

Но остаётся вопрос: а что конкретно мы внедряем? Какие инструменты? И почему именно их?

Наши реалии: слон в комнате 🐘

Мы в России не можем играть на том же поле, что OpenAI или Google:

- Железо. GPU производятся не у нас. По количеству серверов мы (по всей стране) не сравнимся даже с одним крупным дата-центром в США. Всё в РФ везётся через третьи страны, цена в полтора-два раза выше.

- Тренировать свои модели? Для большинства компаний это нереально дорого и долго. Даже крупные игроки вроде Сбера признают: их GigaCode по бенчмаркам уступает западным и китайским аналогам.

- Российские модели vs мировые. Если сравнивать русскоязычно-центричные решения (GigaChat, Алиса) с западными и китайскими - наши проигрывают даже в русском языке. Все потому что корпус данных и инфраструктура у мировых моделей прокачаны на всём пласте человеческих знаний.

- Ну и цена. Сравните Alice AI для B2B (релиз прошлой недели) с Anthropic-ценами: наша дороже в 10 раз. Нафига таким пользоваться?

Выход: Open Source и китайские партнёры

Хорошая новость! Есть открытые модели, и это наше спасение:

🇨🇳 Qwen (от Alibaba) - отличное соотношение цена/качество, хорошо работает с кодом.
🇨🇳 DeepSeek - сильная модель для генерации кода и reasoning-а.
🌍 Другие OSS-модели - Llama, Mistral, GPT OSS и т.д.

Их не нужно тренировать с нуля. Допиливать под свои задачи опционально.

Модели QWQ 3, Qwen UltraCoder 480B, GPT OSS 20b (идет даже на неплохом макбуке) / 120b. Этого за глаза хватает, чтобы покрыть 90% всех сценариев в разработке. Наши лидирующие провайдеры (мтс, селектел, ..) предлагают возможности запустить всё у себя и прокинуть API.

Вопрос: А чего у вас в компании развернуто из моделек и каким провайдером вы пользуетесь?