Авторский канал по ВАЙБ КОДИНГУ
Ссылка для друзей: https://t.me/+ll3pbl442dNkZmYy
Cотрудничество: @devmangx
РКН: https://clck.ru/3RRVfk
Post #3819
23.4K
Spotify опубликовал свою схему для Claude Code, которая позволяет сильно сократить расход токенов.
Суть в том, что мощная модель решает основную задачу, а часть работы передаёт более дешёвой.
Вместо того чтобы использовать самую дорогую модель вообще для всего, Spotify распределяет работу так:
1) Когда основной модели нужно изучить большой файл, его читает дешёвая модель и возвращает краткую выжимку с тем, что относится к текущей задаче. В итоге дорогая модель получает только нужную информацию вместо тысяч строк кода.
2) Когда нужно сгенерировать повторяющийся код, дешёвая модель получает описание задачи и пример файла. Она пишет код и сразу сохраняет его в проект, не возвращая весь сгенерированный текст основной модели.
3) Основная модель при этом продолжает разбираться в проблеме и решать, что именно нужно изменить. Если ей требуется отредактировать код, она может прочитать конкретный участок файла и внести изменения.
Изначально правила делегирования прописали в CLAUDE.md, но модель соблюдала их не всегда.
Поэтому Spotify добавил хук: код, который перехватывает действие ещё до его выполнения. Если основная модель пытается целиком прочитать файл длиннее 350 строк, чтение блокируется, а модели предлагается передать эту работу другой модели.
В тестах на чтении больших файлов Claude расходовал примерно на 90% меньше токенов.
Хороший пример того, почему обвязка вокруг модели имеет огромное значение.
Суть в том, что мощная модель решает основную задачу, а часть работы передаёт более дешёвой.
Вместо того чтобы использовать самую дорогую модель вообще для всего, Spotify распределяет работу так:
1) Когда основной модели нужно изучить большой файл, его читает дешёвая модель и возвращает краткую выжимку с тем, что относится к текущей задаче. В итоге дорогая модель получает только нужную информацию вместо тысяч строк кода.
2) Когда нужно сгенерировать повторяющийся код, дешёвая модель получает описание задачи и пример файла. Она пишет код и сразу сохраняет его в проект, не возвращая весь сгенерированный текст основной модели.
3) Основная модель при этом продолжает разбираться в проблеме и решать, что именно нужно изменить. Если ей требуется отредактировать код, она может прочитать конкретный участок файла и внести изменения.
Изначально правила делегирования прописали в CLAUDE.md, но модель соблюдала их не всегда.
Поэтому Spotify добавил хук: код, который перехватывает действие ещё до его выполнения. Если основная модель пытается целиком прочитать файл длиннее 350 строк, чтение блокируется, а модели предлагается передать эту работу другой модели.
В тестах на чтении больших файлов Claude расходовал примерно на 90% меньше токенов.
Хороший пример того, почему обвязка вокруг модели имеет огромное значение.
