Получилась модель, которую можно запускать локально и использовать без ограничений.
Что по факту:
▶ Работает на одной GPU и подходит даже для домашнего железа
▶ Быстрый отклик и адекватное качество для повседневных задач
▶ Контекст до ~262k токенов, тянет большие тексты и код
▶ Умеет вести длинные цепочки рассуждений и работать автономно
▶ Стабильно взаимодействует с внешними API
Используем без подписок, без лимитов, полностью локально — забираем здесь.
tags: #полезное
➡ Data Scientist | Чат