15 GITHUB РЕПОЗИТОРИЕВ ДЛЯ ТВОИХ ПРОЕКТОВ Ч1.

Решил собрать те репозитории, которые помогут тебе с твоими проектами. Есть репозитории, связанные с ИИ-агентами, LLM моделями, фреймворки, оптимизации и ещё другое разное.

1. Agency Agents — 90+ ИИ агент референсов для ваших агентов. Поможет в построения агентов.

2. AReaL — фреймворк для обучения ИИ агентов, через RL. Кратко: специализируешь агентов под свои задачи, заплатишь один раз за обучение и после используешь бесплатно. Это лучше, чем fine-tuning, ибо здесь упор на то, что AReaL позволяет достигать лучших результатов, чем fine-tuning.

3. Camel — мультиагентный фреймворк, который позволяет строить системы с специализированными ролями. Иначе говоря, коллабить между собой агентов, к примеру: ресерчер + создатель контента.

4. ASercher — фреймворк для обучения ИИ агентов на поиск информации в интернете. Можешь натренировать его на нужную тебе тему, чтобы давать качественные ответы в своих ИИ интеграциях. Также у них есть свои предтренированные модели, которые ты можешь скачать (https://huggingface.co/collections/inclusionAI/asearcher)

5. thirdweb — web3 SDK, который упрощает работу с блокчейном. Легко внедрить подключение кошелька, отправку денег, чтение данных из блокчейна.

6. QwQ-32B — бесплатная модель, которую можно запустить локально. Для 32B параметров нужно около ~24GB VRAM минимум.

7. DeepSeek-R1 — бесплатная модель, которая запускается через Ollama/vLLM, если у тебя GPU 12GB+, иначе необходим API. Если нужно много запросов, то будет платно. Лимит 1 миллион токенов в день на бесплатной версии. После за каждый 1M токенов будет ~$2.74 за 1M токенов.

8. Ollama — абсолютно бесплатная open source оболочка, где можно пользоваться моделями. Для этого нужна своя GPU, работает на Mac и Linux. Можешь скачать разные модели: https://ollama.com/library

9. Instructor — библиотека, которая заставит твою LLM возвращать данные не просто текстом, а структурированный JSON, который ты сможешь использовать в коде без парсинга.

10. E2B — инфраструктура, которая позволяет запускать код, который ты вайбкодишь, в безопасных изолированных песочницах в облаке. Это поможет тебе не накосячить в проекте.

11. lancedb — простым языком, это возможность искать что-либо похожее в своем проекте. Работает на твоем компьютере, умно понимает смысл, бесплатно, работает с картинками, видео и текстом одновременно.

12. Ether.js — простой способ работать с блокчейном. Можно создавать кошельки и управлять ключами, читать данные из блокчейна, вызывать смарт-контракты, отправлять транзакции и еще много чего. Мастхев для работы с EVM-совместимыми блокчейнами.

13. SGlang — инструмент, который заставляет LLM возвращать только правильный JSON. Из этого следует 3х ускорение, ведь SGlang оптимизирует генерацию, поэтому ответ приходит в 3 раза быстрее.

14. vLLM — движок, который ускорит твои локальные LLM модели. Кратко: 10х ускорение генерации, в 100 раз дешевле, чем OpenAI API, полный контроль, хорош для батч обработки (много запросов в одном)

15. Claw-Compactor — инструмент для сжатия и сокращения токенов LLM. Даёт возможность сохранить расходы на токены ИИ агентов до 97%


ЛУЧШИЙ ОБМЕННИК | SHITPOST