By LeochensUpdated 2026-05-17smart-web-fetch@clawhub_leochens/smart-web-fetch
Web Scraping#网页抓取
According to AlphaMoat, as of 2026-10, Smart Web Fetch has 11,613 downloads and 31 stars — ranked by downloads #2,363 among 10,914 AI skills in this ranking, and #225 of 915 in Data Analysis.
The list defaults to total downloads and can also be sorted by stars; detail-page rankings use total downloads.
| Platform | Downloads | Stars | Comments |
|---|---|---|---|
| ClawHub ↗ | 5.9K | 29 | 1 |
| SkillHub ↗ | 11.6K | 31 | — |
Platforms count differently and update at different times.
The documentation describes trying Jina Reader, markdown.new, and defuddle.md in sequence, falling back to raw content if needed. The target URL is sent to third parties; use only public pages and avoid intranet addresses, signed links, tokenized URLs, and sensitive documents.
Profile published 2026-10-27
Generated from the skill’s documentation as examples; not results of actual runs.
The counting method changed in 2026-09: skills with the same name are now counted separately by author, and the full catalog is covered. Dashed lines show months before the change; they are not compared with later months, and no growth is computed across the change.
| Month | Downloads | MoM | Stars |
|---|---|---|---|
| 2026-10 | 11.6K | — | 31 |
| 2026-09 | 6.6K | — | 31 |
| 2026-08 | 5.6K | +2.6% | 31 |
| 2026-07 | 5.5K | — | 31 |
| 2026-05 | 4.9K | — | 29 |
The author’s original file, shown as plain text without edits or review by AlphaMoat. Links are not clickable; check commands before running them. Fetched 2026-10-23.
--- name: smart-web-fetch description: 智能网页抓取技能 - 替代内置 web_fetch，自动使用 Jina Reader / markdown.new / defuddle.md 清洗服务获取干净 Markdown。支持多级降级策略，大幅降低 Token 消耗。当 Agent 需要获取网页内容时使用本技能替代 web_fetch。 --- # Smart Web Fetch 智能网页内容获取技能，完全替代 web_fetch，自动通过清洗服务获取干净 Markdown。 ## 核心功能
- **完全替代 web_fetch**: 获取的已经是清洗后的 Markdown，而非原始 HTML
- **四级降级策略**: Jina → markdown.new → defuddle.md → 原始内容
- **Token 优化**: 清洗后的内容比原始 HTML 节省 50-80% Token
## 使用方式
### 命令行获取网页内容
```bash
# 获取清洗后的 Markdown（文本输出）
python3 {baseDir}/scripts/fetch.py "https://example.com/article"
# 获取 JSON 格式（包含元信息）
python3 {baseDir}/scripts/fetch.py "https://example.com/article" --json
```
### 在 Agent 中使用
**当用户需要获取网页内容时：**
```
用户: "帮我查一下 https://example.com/article 的内容"
Agent 应该:
1. 运行: python3 ~/.openclaw/skills/smart-web-fetch/scripts/fetch.py "https://example.com/article"
2. 直接获得清洗后的 Markdown 内容
```
## JSON 输出格式
```json
{
"success": true,
"url": "https://r.jina.ai/http://example.com/article",
"content": "# Article Title\n\nClean markdown content here...",
"source": "jina",
"error": null
}
```
## 降级策略
1. **Jina Reader** (首选)
- URL: `https://r.jina.ai/http://{target}`
- 免费，无需 API Key，中文支持好
2. **markdown.new** (降级)
- URL: `https://markdown.new/{target}`
3. **defuddle.md** (降级)
- URL: `https://defuddle.md/{target}`
4. **原始内容** (最终兜底)
- 直接获取原始 HTML
## Agent 配置建议
为了强制使用本技能替代 web_fetch，在 `openclaw.json` 中配置：
```json
{
"agents": {
"list": [
{
"id": "your-agent",
"tools": {
"deny": ["web_fetch"]
}
}
]
}
}
```
这样 Agent 就无法调用内置 web_fetch，只能通过本技能获取网页内容。
## 优势
- 🚀 **Token 节省 50-80%**: 去除广告、导航栏等噪音
- 🔄 **自动容错**: 四级服务降级，确保可用性
- 🆓 **零成本**: 全部使用免费服务
- 🔌 **即插即用**: 不需要 API Key
- 📝 **干净输出**: 纯 Markdown，无需额外解析
中国金融机构数据爬取与分析综合 Skill v12.0.0。2334家/43大类机构名单、60+财经媒体源舆情、 A股报告/公告/研报、60+种查询多源金融数据（自动降级+缓存）、爬取调度与网页操作增强、 实时数据中枢、24 技术指标引擎、多源证据融合、110 MCP 工具 + 10 Resource + 14 Prompt。 🆕 v12.0.0 四条线（信息获取 / 打包下载 / 数据分析 / 登录）： 编排：gather_info() 一次跑完"路由→抓取→去占位→质量分→能力边界→回执→打包"， 8 类意图各带问法、输入输出、典型耗时与 not_for（说清哪件事做不了）。 诚实：反爬占位条目一律剔除并记账，空结果报 E_SOURCE_EMPTY，不把假数据判成 B 级成功。 交付：包内自带 manifest.json（逐文件 sha256），verify 查得出改动/缺失/多塞， 批量下载单条失败不中断整批，失败清单可直接只重下那几条。 登录：Cookie 由用户导出或扫码接管，档案化 + 健康度四档，对外输出全脱敏（值永不回显）。 何时触发：爬取机构、舆情爬取、东方财富、公告下载、实时行情、技术指标、统一查询、 交付包、批量重下、我已经登录了、登录态还有效吗（完整触发词见下方 auto_trigger）。
大宗商品价格数据查询技能。用于查询大宗商品期现货价格、宏观经济指标、产业链供需数据、进出口库存数据、金融市场数据等。当用户询问：(1) 期货/现货价格查询，如"螺纹钢价格"、"铜期货收盘价"； (2) 历史行情或趋势分析；(3) 区域或企业价格对比；(4) 宏观经济指标，如GDP、CPI；(5) 产业链上下游数据；(6) 多市场金融数据（期权、股票、债券、外汇）；(7) 结算确认单生成时触发此技能。
将数据文件（CSV/TSV/TXT/XLSX/XLS/JSON）转化为独立交互式 ECharts HTML 图表——32 类图表、3 套主题，全离线无需 CDN。出图前可先取数据画像（--profile：每列 dtype/基数/缺失/样本/统计、实体粒度、候选洞察信号、疑似非数据行），让 agent 在用户没说想看什么时自己读懂数据并决定出什么图——哪列是 ID、哪列是维度、出什么图，全部由 agent 从画像的客观事实自行判断，技能不代笔；每张图内置事实卡（plot_stats + data_preview），其数值是解读时唯一可引用的数字。本技能负责出图与算事实，不产出书面报告或叙事文档。触发：用户提供或指向表格数据文件并要求出图；提到「画图/出图/可视化/生成图表/generate a chart/make a graph」；想把表格渲染成交互式 HTML 图表。不触发：要的是书面报告、叙事分析或幻灯片；没有数据文件；需要后端的仪表盘；图片/音频/视频等非表格内容。
The data layer for AdMapix: turn ad and app queries into API calls that return raw JSON only.
论文配图一键生成：一条命令从 JSON/CSV/Excel 生成顶刊级学术图表，科研绘图 与期刊配图全场景覆盖。40 种图表（森林图/KM 生存曲线（自动风险表）/竞争风险累计发生率/ROC/校准 曲线/决策曲线 DCA/列线图/RCS 非线性剂量反应/亚组分析森林图/RMST 限制平均生存时间/Galbraith 径向图/火山图/雨云图/山脊图/哑铃图/游泳图（逐例时长+里程碑）/ 肿瘤缓解瀑布图/UpSet 交集/PRISMA 流程图/漏斗/BA 一致性/PCA/热图/箱线/小提琴/ 组合图/Cox 多因素回归森林图等），9 套配色（含色盲安全 Okabe-Ito 与期刊色板），9 种期刊投稿预设， YAML 流水线一条命令出全套论文图，一次渲染多格式导出（TIFF/PNG/PDF）， PDF 重叠门禁，600dpi。纯本地运行，数据不出机，中文零配置。适用：写论文/ 投稿要配图、把数据变成可投稿图表、批量重出全套图。不适用：文本润色/翻译/ 改写（请用写作类工具）；商业报表/仪表盘/海报装饰；无数据支撑的纯示意图。
Intelligent chart generation and data analysis skill. Reads user-supplied data files (CSV/Excel/JSON), analyzes data characteristics with LLM assistance, auto-recommends and generates interactive ECharts visualizations. Use when the user asks to analyze data, generate charts, create visualizations, or work with tabular data files.
全球智能投研工具（stock-researcher）v13.0：多源数据 + 概率预测 + 可导出报告。 核心能力： - 多源数据路由：按市场/类别选源，逐级降级；每个结果标注来源与时效等级；源不可用时明确标 unavailable - 全资产量化：股票/ETF/场外基金/指数/期货（期限结构、基差、持仓、折溢价）多因子分析 - 概率预测：1d/5d/1M/3M/6M 经验分布 + 分位数 + 方向概率 + 区间，kNN 邻域收缩融合全局分布； 样本不足自动弃权，可按历史命中样本（同桶）做概率校准 - 证据链简报：每条结论绑定来源、时间与数据质量，冲突信号保留而不抹平 - 报告导出：Word/PPT/PDF/Markdown/JSON/纯文本，纯标准库渲染 + 可选第三方引擎 - MCP Server 24 工具，Claude Code 可直接调用；知识库 12 适配器双向同步 三条铁律： - 数据不装：拿不到就报不可用，不拿 0 价、不拿空表冒充 - 预测不装：概率来自历史相似条件的经验分布，样本不足就说不足，不硬给方向 - 评分≠盈利保证：任何结论都带免责声明
Searches the public web through Tavily and returns structured results with links and snippets.
Data as of 2026-10. Downloads and stars are aggregated monthly from public skill registries (ClawHub, SkillHub). See data methodology.