Эта тема не так популярна, как было с MCP в LM Studio, но пару человек меня спрашивала «КАК?», значит по порядку.
Для начала нужно создать текстовый файл config.json и внутрь скопировать это:
{
"mcpServers": {
"filesystem": {
"command": "npx",
"args": ["-y", "@modelcontextprotocol/server-filesystem", "H:/ВАШ_ПУТЬ"]
},
"ddg-search": {
"command": "uvx",
"args": ["duckduckgo-mcp-server"]
},
"fetch": {
"command": "uvx",
"args": ["mcp-server-fetch"]
}
}
}
Затем создать второй текстовый файл с названием mcp.bat и внутрь скопировать это:
start "MCP Proxy" cmd /k uvx mcp-proxy --named-server-config config.json --allow-origin "*" --port 8001 --stateless
И запускаете этот bat-ник.
После этого запускаете llama.cpp, переходите в раздел MCP Servers (вероятно вы знаете где это, раз заинтересовались этой темой). Нажимаете Add New Server и по очереди создаете эти сервера:
http://127.0.0.1:8001/servers/filesystem/mcp
http://127.0.0.1:8001/servers/ddg-search/mcp
http://127.0.0.1:8001/servers/fetch/mcp
ВАЖНО: запускать mcp.bat придется каждый раз, при запуске llama.cpp, иначе они не будут работать.
Эти сервера должны появиться в веб-интерфейсе llama.cpp и можно пользоваться. Надеюсь ничего не забыл, писал по памяти. Если возникли сложности, пишите в НАШ ЧАТ. Если вовремя замечу - отвечу. Либо ответят знающие люди, а их там много!
А я всё, выключаю🫡