Ollama 是一款轻量工具,可在本地下载并运行开源大模型(如 Llama 3、Qwen、Mistral),Laravel AI SDK 将其作为一等提供商支持,开发者通过单环境变量即可切换本地与云端模型,零 API 费用、无速率限制。
- 安装:macOS 用
brew install ollama,Linux 用一键脚本,Windows 下载安装包,启动后暴露 localhost:11434/api- 配置:在
.env 添加 OLLAMA_API_KEY=(留空),SDK 默认连接本地 Ollama;可在 config/ai.php 自定义 URL- 使用:通过 PHP 属性
#[Provider(Lab::Ollama)] 或运行时传参指定模型,支持嵌入生成(如 nomic-embed-text)做本地 RAG 开发- 开发/生产工作流:本地用 Ollama,生产切换云端,代码无需改动;测试时可用 SDK 的 fake 功能避免真实调用
原文链接
#开发者 #工具
📢 频道:@DevToolboxHub
