Канал с размышлениями о жизни, разработке и том, кто такой AI-first менеджер от @dmgritsan
CTO и кофаундер HR-tech проекта. Консультирую по построению команд разработки и применению AI. Знаю многое о том, как работает ФинТех и аналитические продукты.
Post #138
336
Пока ковырялся со своим телеграм-ботом с LLM под капотом, откладывал две технологии, которые очень хочется потыкать на живом примере и, желательно, с локальной развёрткой. Это RAG и MCP.
Наверняка же кто-то из подписчиков уже собирал что-нибудь с ними. Поделитесь кейсами, вдруг мне тоже что-то похожее надо. А то я уже голову сломал, что бы такого реализовать прикольного.
————————————-
На всякий случай, небольшая справка от ChatGPT.
🧠 RAG (Retrieval-Augmented Generation) — это способ обогатить ответы LLM внешними данными. Вместо того чтобы LLM всё "вспоминала" из своих весов, ей дают доступ к базе документов: она сначала ищет нужный фрагмент, а потом генерирует ответ на его основе. Подходит, если хочется, чтобы бот знал что-то конкретное: внутреннюю документацию, справку по продукту или личные заметки.
🔧 MCP (Model Context Protocol) — это концепция "интерактивного сервера" для LLM, где есть tools, state и более сложные диалоги. LLM умеет не просто отвечать, а вызывать инструменты — как функции, API или действия, — и накапливать контекст. Например, можно сделать ассистента, который по ходу разговора заполняет форму, делает запросы к внешним сервисам и учитывает предыдущие шаги.
Наверняка же кто-то из подписчиков уже собирал что-нибудь с ними. Поделитесь кейсами, вдруг мне тоже что-то похожее надо. А то я уже голову сломал, что бы такого реализовать прикольного.
————————————-
На всякий случай, небольшая справка от ChatGPT.
🧠 RAG (Retrieval-Augmented Generation) — это способ обогатить ответы LLM внешними данными. Вместо того чтобы LLM всё "вспоминала" из своих весов, ей дают доступ к базе документов: она сначала ищет нужный фрагмент, а потом генерирует ответ на его основе. Подходит, если хочется, чтобы бот знал что-то конкретное: внутреннюю документацию, справку по продукту или личные заметки.
🔧 MCP (Model Context Protocol) — это концепция "интерактивного сервера" для LLM, где есть tools, state и более сложные диалоги. LLM умеет не просто отвечать, а вызывать инструменты — как функции, API или действия, — и накапливать контекст. Например, можно сделать ассистента, который по ходу разговора заполняет форму, делает запросы к внешним сервисам и учитывает предыдущие шаги.
- ❤ 4
- 🤓 4
- 👨💻 4
- 👾 2

