输入文章 URL,返回干净 Markdown。支持17个平台(头条、微信公众号、知乎、36kr、虎嗅、华尔街见闻、澎湃、InfoQ 等)专项优化,双引擎提取、图片本地化、三层抓取策略。常与 browser‑web‑search skill配合:先用 bws 搜索获取 url 列表,再逐篇调用本 skill 提取正文。
news-to-markdown Skill是一项面向实际任务的技能,主要用于输入文章 URL,输出干净的 Markdown 正文;17 个平台专项优化,为 AI Agent 而生;
🧠 双引擎提取 — M。它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;
若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。该技能适合用于一次性任务,也可以接入自动化工作流,与其他技能或上层代理配合完成更完整的业务链路;在组合使用时,应明确每一步的输入输出关系,并避免不同步骤之间出现参数冲突。
输入文章 URL,输出干净的 Markdown 正文。17 个平台专项优化,为 AI Agent 而生。
cover:,避免下游发布链路(如微信公众号)因缺少封面失败scripts/run.js launcher 解析已安装的固定版本 npm 包并在进程内运行,不 fork 子进程、不调用 npx、不在运行时漂移版本# 一次性安装(每次小版本升级时手动重做一次) npm install -g news-to-markdown@3.3.1 # 之后通过 launcher 调用(args 经 allow-list 校验,URL/输出参数透传到进程内 CLI) node scripts/run.js convert --url "https://www.toutiao.com/article/123" node scripts/run.js convert --url "https://mp.weixin.qq.com/s/xxx" --output article.md node scripts/run.js convert --url "https://www.toutiao.com/article/123" --download-images --output-dir ./article node scripts/run.js convert --url "https://www.zhihu.com/p/xxx" --no-metadata
npx --yes(一次性试用 / 临时沙箱环境)⚠️ 供应链风险:
npx --yes news-to-markdown@^3.3.1在 每次调用时 从 npm 解析并执行落在^3.3.1范围内的最新版本,无 lockfile、无完整性校验。仅建议在隔离环境(容器、临时 VM)里用于一次性试用;常驻使用请走上面的固定版本路径。
npx --yes news-to-markdown@^3.3.1 --url "https://www.toutiao.com/article/123"
最常见的 AI Agent 编排模式:
browser-web-search → 搜索,产出 URL 列表 news-to-markdown → 读取正文,产出 Markdown
# Step 1:用 bws 搜索,拿到文章 URL 列表 bws site toutiao/search "ai agent" --count 3 # Step 2:对每个 URL 提取正文 node scripts/run.js convert --url "https://www.toutiao.com/article/111" node scripts/run.js convert --url "https://www.toutiao.com/article/222" node scripts/run.js convert --url "https://www.toutiao.com/article/333"
适用搜索命令(browser-web-search 0.4.2,30 个平台):
toutiao/search、weixin/search、zhihu/search、36kr/search、xiaohongshu/search、huxiu/search、wallstreetcn/search、thepaper/search、qqnews/search、netease/search、sina/search、juejin/search、csdn/search、cnblogs/search、infoq/searchverge/search、ars/search、engadget/search、hn/search(外链文章)注意:
github/search、reddit/search、x/search、weibo/search等平台的 bws 结果本身是结构化数据,无需再用本工具提取正文。
| 平台 | 域名 | 专项说明 |
|---|---|---|
| 今日头条 | toutiao.com | 标题规范化、data-src 图片、列表修复 |
| 微信公众号 | mp.weixin.qq.com | #js_content 提取、移动端 UA 回退 |
| 小红书 | xiaohongshu.com | .note-content 提取、懒加载图片 |
| 知乎 | zhihu.com | 真实 Chrome 绕过 zse-ck 反爬 |
| 36kr | 36kr.com | 自动转移动端 URL 绕过反爬 |
| 虎嗅 | huxiu.com | 正文区域提取、懒加载图片修复 |
| 华尔街见闻 | wallstreetcn.com | 财经正文提取、去高亮 标签 |
| 澎湃新闻 | thepaper.cn | .news_txt 正文区域提取 |
| InfoQ | infoq.cn / infoq.com | 技术文章正文提取 |
| Bilibili 专栏 | bilibili.com | /read/ 路径文章提取 |
| 掘金 | juejin.cn | 代码块与正文提取 |
| CSDN | csdn.net | 去广告侧边栏、#content_views 提取 |
| 博客园 | cnblogs.com | 技术博客正文提取 |
| 简书 | jianshu.com | 文章正文提取 |
| SegmentFault | segmentfault.com | 技术问答正文提取 |
| 开源中国 | oschina.net | 资讯正文提取 |
| 人人都是产品经理 | woshipm.com | 产品文章正文提取 |
其余平台(The Verge、Ars Technica、Engadget 等英文站)走通用 Readability 算法。
node scripts/run.js convert --url[选项]
| 参数 | 类型 | 说明 |
|---|---|---|
--url |
string | 文章 URL(必填) |
--output |
string | 输出文件路径(默认输出到终端) |
--download-images |
flag | 下载图片到本地(推荐) |
--output-dir |
string | 图片输出目录(--download-images 时使用) |
--no-metadata |
flag | 只要正文,不含标题/作者/时间 |
--selector |
string | 自定义内容区域 CSS 选择器 |
--noise |
string | 移除元素的选择器,逗号分隔 |
--verbose |
flag | 详细日志(调试用) |
场景:用户提供一个文章 URL,要求转换为 Markdown
node scripts/run.js convert --url "https://www.toutiao.com/article/123" --output article.md
场景:需要保留图片,或后续要发布到微信公众号
node scripts/run.js convert --url "https://www.toutiao.com/article/123" --download-images --output-dir ./article # 输出:./article/article.md + ./article/images/*.jpg
头条、微信等平台的图片 URL 包含签名,数小时后失效。下载到本地可避免此问题。
场景:用户说"只要文章内容,不要标题作者等信息"
node scripts/run.js convert --url "https://36kr.com/p/xxx" --no-metadata
场景:配合 bws 搜索结果批量提取
# 先搜索
bws site zhihu/search "大模型" --count 5 --jq '[.items[].url]'
# 再逐篇提取
for url in "${urls[@]}"; do
node scripts/run.js convert --url "$url" --output "articles/$(echo $url | md5sum | cut -c1-8).md"
done
场景:提取结果不准,用户要求去掉广告或指定正文区域
# 去掉广告和评论 node scripts/run.js convert --url "https://example.com/article" --noise ".ad,.sidebar,.comments" # 指定内容区域 node scripts/run.js convert --url "https://example.com/article" --selector "article.main-content"
场景:抓取或提取失败,需要排查
node scripts/run.js convert --url "https://example.com/article" --verbose
常见原因与解决方案:
| 问题 | 原因 | 解决方案 |
|---|---|---|
| 抓取失败 | 需要 JS 渲染 | 自动使用 Playwright(需提前安装) |
| 内容为空 | 选择器不匹配 | 使用 --selector 指定内容区域 |
| 图片显示不了 | URL 过期 | 使用 --download-images |
| 反爬拦截 | 无头浏览器被检测 | 知乎已内置 Chrome UA,其他平台视情况处理 |
可选安装 Playwright 浏览器(动态页面支持):
npx playwright install chromium
用户:帮我把这篇虎嗅文章转成 Markdown,图片也要保存
node scripts/run.js convert --url "https://www.huxiu.com/article/xxx.html" --download-images --output-dir ./huxiu-article
用户:搜索头条最新 3 篇关于 AI Agent 的文章,并获取每篇正文
# Step 1: 搜索 bws site toutiao/search "AI Agent" --count 3 # Step 2: 逐篇提取(对每个 url 执行) node scripts/run.js convert --url "" --output " .md"
用户:只要这篇知乎文章的正文,不要其他信息
node scripts/run.js convert --url "https://www.zhihu.com/p/xxx" --no-metadata
🟢 推荐:Skill 插件 / launcher 路径(node scripts/run.js convert …)
在进程内 require() 已固定版本的 npm 包,不 fork 子进程、不调用 npx、不在 ^3.3.1 范围内漂移版本。一次性安装:
npm install -g news-to-markdown@3.3.1
未安装时,launcher 会以可操作的 JSON 错误提示退出,不会自动安装、不会回退到子进程。该选择消除了 child_process 调用面与运行时版本漂移面,匹配 codeguard-0-supply-chain-security 与 codeguard-0-input-validation-injection 的硬化要求。
🟡 备选:npx --yes 直接终端调用
形如 npx --yes news-to-markdown@^3.3.1 …。每次调用都会从 npm 拉取并执行落在 ^3.3.1 范围内的最新版本——这是受信范围内的供应链漂移面,没有 lockfile、没有完整性校验。仅建议在隔离环境(一次性容器、临时 VM、沙箱)下做快速试用;不要用于常驻的批处理。
本 Skill 透传到第三方 npm 包,使用前请审计源码:
scripts/run.js 仅放行 SKILL.md 中文档化的子命令与参数(allow-list),并对每个参数做长度上限与控制字符校验后才注入到 CLI 进程的 argv,不会进入 shell。但被透传的目标包本身仍可发起任意网络/磁盘 I/O,建议固定到 3.3.1 之后再做一次源码审阅。
第三层抓取策略(动态页面回退)依赖 playwright。首次 npx playwright install chromium 会从 Microsoft / Google 的 CDN 下载 Chromium 二进制(~150 MB)到 ~/Library/Caches/ms-playwright/(macOS)或 ~/.cache/ms-playwright/(Linux)。该步骤会执行远端二进制到本地,建议:
本工具默认用于个人学习和内容归档。对外发布时,请保留来源链接和作者信息,并确认来源站点的版权声明与转载政策。
相关专题
热门下载
相关下载
精品课程
共13课时 | 3.7万人学习
共30课时 | 4.4万人学习
共10课时 | 1.5万人学习
最新文章