TGViewer
GitHub开源观察|开源项目·热门仓库·开发者 GitHub开源观察|开源项目·热门仓库·开发者 @githubtrendinghub · 580 subscribers
Post #88 17
Scrapling:自适应 Web 爬取框架

Scrapling 是一个自适应的 Python Web 爬取框架,支持从单次请求到全规模爬取。其解析器能自动适应网站变化并重定位元素,内置 Fetcher 可绕过 Cloudflare Turnstile 等反爬系统。

- 内置 Spider 框架:支持并发、多会话、暂停恢复、流式输出与机器人.txt 合规,可快速构建大规模爬虫
- 多种 Fetcher:HTTP/Stealthy/Dynamic 三类,分别用于高速请求、隐身绕过、完整浏览器自动化,均支持会话管理和代理轮换
- 集成 MCP 服务器:可与 Claude/Cursor 等 AI 工具配合,先提取目标内容再传给 AI,降低 token 消耗
- 性能领先:解析速度测试中,文本提取比 BS4+Lxml 快约 784 倍,元素相似度搜索比 AutoScraper 快约 5 倍

安装:Python 3.10+,pip install scrapling,可选浏览器依赖 pip install "scrapling[all]",Docker 镜像已预装所有浏览器。

GitHub

#GitHub #开源

📢 频道:@GitHubTrendingHub
More from @githubtrendinghub
  1. Oct 6, 2026AnyPS5:将 PS5 可执行文件自动移植到 Linux/Windows 将 PS5 游戏二进制直接重链接为目标系统原生格式,支持动态链接的系统 PRX 库,无需模拟器或额外运行…
  2. Oct 6, 2026Caddy:自动 HTTPS 的多平台 Web 服务器 Caddy 是一款用 Go 编写的轻量级 Web 服务器,默认开启 TLS,支持 HTTP/1.1、HTTP/2 与 HTT…
  3. Oct 5, 2026ReviewBench:AI 代码审查的开源离线基准 AI 代码审查工具越来越多,但谁抓得准、谁噪音大很难比较。ReviewBench 用统一评分方法评测各家审查代理,帮团队在改动…
  4. Oct 5, 2026OpenCourant:OpenRadioss 被下架后的社区分叉 Siemens 本月初删除 OpenRadioss 仓库,只留 GitHub 页面。Rocky Linux 联合…
  5. Oct 5, 2026Sequoia PGP:Rust 重写的 OpenPGP 实现 Canonical 正逐步用 Rust 组件替换 Ubuntu 的 C 组件,这次轮到 OpenPGP。Sequoi…
  6. Oct 5, 2026Sentry:开发者优先的错误追踪与性能监控平台 代码出错时,用户和日志只能给线索,Sentry 给答案。它面向开发者,帮助检测、追踪并更快修复问题,支持从 Web 前端到移动端、…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →