В интервью Forbes СEO «Алисы AI и умных устройств» Яндекса Валерий Стромов подсветил тезис, который может хорошо описывать следующий поворот в ИИ: индустрия постепенно уходит от идеи одной модели, которая должна уметь все.
Вместо этого — несколько моделей и роутер: система сама выбирает наиболее подходящую модель в зависимости от задачи. Это позволяет повышать качество ответов и одновременно снижать стоимость их обработки.
И здесь у систем с роутингом есть довольно очевидное преимущество. Сделать одну универсальную модель, которая одинаково хорошо делает все, — очень дорого и практически невозможно. Каждая новая область требует отдельного обучения, данных и вычислительных ресурсов.
Гораздо логичнее разделять задачи между моделями, которые лучше справляются с конкретными типами запросов. В результате можно не только повышать качество, но и не тратить ресурсы самой мощной модели там, где она просто не нужна.
Такой подход уже используют активно зарубежные игроки – Perplexity, Amazon, Microsoft. Теперь в эту сторону двигается и Яндекс.
При этом это не значит, что компании становятся просто агрегатором чужих моделей.
По словам Стромова, даже если для отдельных задач используются open-source-модели, Яндекс продолжает развивать собственные технологии: свои модели, оркестрацию и харнесс — инструменты и инструкции, доступные модели во время работы. По сути, речь идет о создании собственной экосистемы, которая определяет — какую модель, какие инструменты и в какой последовательности использовать.
Вероятно, в этом и будет заключаться следующий этап мировой ИИ-гонки.
https://www.forbes.ru/tekhnologii/567781-ceo-alisy-i-umnyh-ustrojstv-andeksa-eto-vaznejsaa-stavka-za-istoriu-kompanii
Post #5411
17K