TGViewer
开发者工具箱|编程·开发工具·资源 开发者工具箱|编程·开发工具·资源 @devtoolboxhub · 301 subscribers
Post #198 2
Ollama 本地运行 LLM,集成 Laravel AI SDK

Ollama 是一款轻量工具,可在本地下载并运行开源大模型(如 Llama 3、Qwen、Mistral),Laravel AI SDK 将其作为一等提供商支持,开发者通过单环境变量即可切换本地与云端模型,零 API 费用、无速率限制。

- 安装:macOS 用 brew install ollama,Linux 用一键脚本,Windows 下载安装包,启动后暴露 localhost:11434/api
- 配置:在 .env 添加 OLLAMA_API_KEY=(留空),SDK 默认连接本地 Ollama;可在 config/ai.php 自定义 URL
- 使用:通过 PHP 属性 #[Provider(Lab::Ollama)] 或运行时传参指定模型,支持嵌入生成(如 nomic-embed-text)做本地 RAG 开发
- 开发/生产工作流:本地用 Ollama,生产切换云端,代码无需改动;测试时可用 SDK 的 fake 功能避免真实调用

原文链接

#开发者 #工具

📢 频道:@DevToolboxHub
More from @devtoolboxhub
  1. Oct 16, 2026Drobek:让 Claude Code 只做构建,发布留给人类 Drobek 是一个基于 Claude Code 的浏览器端小应用框架。它让编码代理在构建循环中快速生成代码、修复…
  2. Oct 16, 2026Prometheus 与 OpenTelemetry 互操作性持续提升 2026 年最新调查显示,Prometheus 与 OpenTelemetry 的互操作性已显著改善。平均易…
  3. Oct 15, 2026浏览器优先的 CAD 体验:CADCraft、OpenCAD Studio 与 MLightCAD 对比 浏览器端 CAD 已不再是预览工具。用户需要在浏览器中打开 DWG/DXF…
  4. Oct 15, 2026Grafana Cloud IRM:一站式事故管理与 AI 调查 在收到前端 API 失败的警报后,团队通常需要在多个工具间切换:查看警报、检查仪表盘、在 Slack 里讨论。Gr…
  5. Oct 15, 2026ParadeDB 通过段分区与位图提升 COUNT 与搜索性能 ParadeDB 在 2026 年 10 月发布的技术报告中展示了如何利用 ctid‑aware 段分区、倒排 Do…
  6. Oct 14, 2026Zénit 0.5.4 R5:多窗口桌面编码工作区 Zénit 是一款桌面编码工作区,支持 Python 后端、JavaScript 前端、Monaco 编辑器和原生 WebVie…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →