Большое разнообразие GenAI приложений в последнее время все чаще включает рабочие процессы, управляемые агентами.
Одно из свойств AI агентов — это способность интегрироваться с различными внешними API (вызов функций).
Наше облако immers.cloud предлагает новейшие видеокарты для быстрого инференса, что так важно для агентских систем, ведь они требуют значительно больше токенов в секунду, чем обычные zero-shot чатботы.
Помимо облачной инфраструктуры важна архитектура самой нейросети, сейчас получают распространение модели рассуждений, Large Reasoning Model - на моем телеграм канале выходят публикации об этом. Рекомендую рассмотреть Marco-o1, LRM на базе Qwen 2, которая дает представление о том, как обучать такие модели, какие использовать стратегии промптинга.
@ruslandevlive — мысли о современных AI/ML технологиях