Обновил скилл для скачивания документаций, уменьшив расход по токенам модели

Для чего вообще нужен getDocs?

Представьте, что у сервиса большая документация: десятки страниц про функции, настройки, API и примеры.

Например, CRM с ИИ, бухгалтерией, обработкой заказов, контакт-центром, номером +8 800, ...

Вам нужно не читать всё подряд, а быстро понять конкретный вопрос: как подключиться, какие есть методы, где ограничения, как выглядит пример запроса.

Например, в случае с CRM лишь бухгалтерия и обработка заказов.

Вручную это может занять несколько часов!

getDocs помогает забрать такую документацию в Markdown-формат, то есть в файлы .md, а потом разбирать её вместе с ИИ-агентом.

Он прочитает, и может подсказать только нужное вам. Или даже интегрировать.

Недавно я обновил этот скилл.

Потому что была проблема.

Если документация большая, агенту легко скормить слишком много лишнего текста. Он читает большой файл или много отдельных файлов, а в контекст модели улетает всё подряд.

А вместе с этим быстрее заканчиваются лимиты по токенам.

Теперь в getDocs добавлена поддержка QMD.

Если QMD установлен, скилл после скачивания автоматически создаёт индекс по документации. Дальше агент может сначала искать по индексу, а уже потом читать только найденные фрагменты.

То есть не так:

«вот вся документация, разбирайся».

А так:

«найди места про нужный метод или интеграцию - и прочитай только эти куски».

Проверил на документации одного проекта, название специально не пишу.

Что получилось:

• вся документация: примерно 18 тысяч слов, около 50-55 тысяч токенов;
• поиск через QMD для конкретного вопроса: примерно 2,5 тысячи слов, около 5-6 тысяч токенов;
• экономия контекста - примерно в 9 раз.

Потом отдельно прошёлся по файлам напрямую и сравнил, не потерялись ли важные места.

По смыслу QMD нашёл те же релевантные фрагменты. Просто без загрузки всей документации в модель.

Для меня это хороший пример того, как надо улучшать ИИ-инструменты.

Документация лежит отдельно. Агент сначала ищет. Модель получает только нужные куски. Полное чтение остаётся как запасной вариант, если поиск не помог.

Похоже на подход NotebookLM, только локально: без cookies, неофициальных API Google и риска, что завтра сторонняя связка сломается.

Минус тоже есть: нужно один раз встроить поиск в рабочий процесс скилла и явно прописать агенту правило - сначала QMD, потом точечное чтение, полный файл только если иначе нельзя.

Практическая выгода простая: при работе с большой документацией вы меньше тратите лимиты модели.

Если агент читает все файлы подряд, лимит может закончиться быстро. А если сначала ищет через QMD и отдаёт модели только нужные фрагменты, с тем же ChatGPT можно работать заметно дольше.

Особенно это полезно, когда основная работа идёт не через чтение всей документации, а через поиск по файлам.

Кстати, на сайте ChatGPT вы так не сделаете. Да и не уверен, что там вообще удобно изучать 20-100 страниц справки проекта.

Репозиторий:
https://github.com/web3blind/getdocs-skill

Всё ли понятно? Если нет - спрашивайте, помогу разобраться.

😎 Незрячий web3 программист (подписаться)
Чат | бот