Модели Arch-Function понимают сложные сигнатуры функций, идентифицируют необходимые параметры и генерируют точные вызовы функций на основе промптов.
Семейство основано на Qwen 2.5, его модели оптимизированы для низкой задержки инференса и высокой пропускной способности. Они отлично подходят для работы в режиме реального времени в производственной среде.
▶️Функциональные возможности моделей:
🟢Single Function Calling. Вызов одной функции для каждого запроса;
🟢Parallel Function Calling. Вызов одной и той же функции несколько раз, но с разным набором параметров;
🟢Multiple Function Calling. Вызов различных функций для каждого запроса;
🟢Parallel & Multiple. Выполнение параллельного и множественного вызова функций.
▶️Семейство Arch-Function:
🟢Arch-Function-7B;
🟢Arch-Function-3B;
🟢Arch-Function-1.5B.
В репозитории на HF доступны квантованные версии всех моделей в формате GGUF:
🟠Arch-Function-7B в 4-bit разрядности;
🟠Arch-Function-3B в разрядностях от 2-bit до 6-bit;
🟠Arch-Function-1.5B в разрядностях от 2-bit до 6-bit.
Модели семейства прошли оценку на Berkeley Function-Calling Leaderboard (BFCL).
Результаты показывают, что Arch-Function-7B и Arch-Function-3B демонстрируют производительность, сопоставимую с GPT-4-turbo-2024-04-09 и xLAM-8x22b-r.
Arch-Function можно запустить с помощью библиотеки
Transformers или в промпт-шлюзе Arch. ⚠️ Для достижения наилучших результатов рекомендуется использовать конфигурацию промптов, указанных в примерах одиночного или многошагового вызова функций.
📌Лицензирование : Katanemo license.
🟡Коллекция моделей
🖥GitHub
@ai_machinelearning_big_data
#AI #ML #LLM #Katanemo #Arch-Function