ColGrep-Agent-2B берёт поиск по коду на себя и экономит токены Claude Code
⠀
Claude Code отлично пишет код, но часть токенов (то, за что вы платите) тратит на поиски нужного файла. ColGrep-Agent-2B от LightOn забирает эту работу себе: ищет по проекту и отдаёт агенту только нужные файлы и строки.
⠀
Почему это вау:
— Всего 2 млрд параметров, весит 2,5 ГБ
— Работает на вашем компьютере, код никуда не уходит
— Ключ API не нужен, лицензия свободная
— Токены на 34% меньше, расходы на 40%
⠀
Цифры про токены и расходы из замеров LightOn на 52 вопросах по 13 проектам. А на реальных задачах из открытых проектов малышка находит нужные файлы точнее исходной модели, из которой её сделали: 76 баллов из 100 против 67. Писать приложения за вас она не будет, её работа поиск.
⠀
Установка и подключение к Claude Code описаны здесь.
⠀
Большим моделям пора отдавать курьерскую работу маленьким: пусть дорогие токены тратятся на думание, а не на беготню по папкам.
⠀
RAGNAROK | ИИ и технологии