🌟 Arch-Function: коллекция моделей для вызова функций.
Модели Arch-Function понимают сложные сигнатуры функций, идентифицируют необходимые параметры и генерируют точные вызовы функций на основе промптов.
Семейство основано на Qwen 2.5, его модели оптимизированы для низкой задержки инференса и высокой пропускной способности. Они отлично подходят для работы в режиме реального времени в производственной среде.
▶️Функциональные возможности моделей:
🟢Single Function Calling. Вызов одной функции для каждого запроса;
🟢Parallel Function Calling. Вызов одной и той же функции несколько раз, но с разным набором параметров;
🟢Multiple Function Calling. Вызов различных функций для каждого запроса;
🟢Parallel & Multiple. Выполнение параллельного и множественного вызова функций.
▶️Семейство Arch-Function:
🟢
Arch-Function-7B;
🟢
Arch-Function-3B;
🟢
Arch-Function-1.5B.
В репозитории на HF доступны квантованные версии всех моделей в формате GGUF:
🟠Arch-Function-7B в
4-bit разрядности;
🟠Arch-Function-3B в
разрядностях от 2-bit до 6-bit;
🟠Arch-Function-1.5B
в разрядностях от 2-bit до 6-bit.
Модели семейства прошли оценку на Berkeley Function-Calling Leaderboard (BFCL).
Результаты показывают, что Arch-Function-7B и Arch-Function-3B демонстрируют производительность, сопоставимую с GPT-4-turbo-2024-04-09 и xLAM-8x22b-r.
Arch-Function можно запустить с помощью библиотеки
Transformers или в промпт-шлюзе
Arch.
⚠️ Для достижения наилучших результатов рекомендуется использовать конфигурацию промптов, указанных в примерах
одиночного или
многошагового вызова функций.
📌Лицензирование :
Katanemo license.🟡
Коллекция моделей🖥
GitHub@ai_machinelearning_big_data#AI #ML #LLM #Katanemo #Arch-Function
