Firecrawl Scrape

Polar Sponsor
爱发电 赞助
.NET 9.0

从任意 URL(包括 JavaScript 渲染的单页应用)中提取干净的 Markdown。当用户提供 URL 并想获取其内容、说“scrape”等时使用此技能。

firecrawl 刮擦

功能概述

firecrawl 刮擦是一项面向实际任务的技能,主要用于擦除一个或多个 URL. 返回干净, LLM 优化标记;多重 URL 被同时擦除;

核心要点

  • 您有特定的 URL 并想要其内容;
  • 此页面是静态的。
  • 它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。

使用与执行

使用时应结合输入条件选择合适的执行方式,核对必要参数、依赖环境与输出内容,并按原始要求处理异常情况。该技能适合需要稳定复用相关能力的场景,可作为自动化工作流的一部分,也便于后续检查、调整和扩展。从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。

结果检查与注意事项

实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。

firecrawl scrape

抓取一个或多个 URL。返回干净、面向大语言模型优化的 Markdown 内容。多个 URL 将并发抓取。

适用场景

  • 你已知具体 URL,仅需获取其页面内容
  • 目标页面为静态页面或由 JavaScript 渲染的单页应用(SPA)
  • 工作流升级模式中的第二步:search → scrape → map → crawl → interact

快速开始

# 基础 Markdown 提取
firecrawl scrape "" -o .firecrawl/page.md

# 仅提取主体内容(排除导航栏、页脚等)
firecrawl scrape "" --only-main-content -o .firecrawl/page.md

# 等待 JavaScript 渲染完成后再抓取(等待 3000 毫秒)
firecrawl scrape "" --wait-for 3000 -o .firecrawl/page.md

# 并发抓取多个 URL(每个 URL 的结果分别保存至 .firecrawl/ 目录下)
firecrawl scrape https://example.com https://example.com/blog https://example.com/docs

# 同时获取 Markdown 内容与链接列表
firecrawl scrape "" --format markdown,links -o .firecrawl/page.json

# 就页面内容提出一个问题
firecrawl scrape "https://example.com/pricing" --query "What is the enterprise plan price?"

选项

选项 说明
-f, --format 输出格式:markdown、html、rawHtml、links、screenshot、json
-Q, --query 就页面内容提出问题(消耗 5 个积分)
-H 在输出中包含 HTTP 响应头
--only-main-content 移除导航栏、页脚、侧边栏等非主体元素,仅保留主要内容
--wait-for 在抓取前等待指定毫秒数,确保 JavaScript 渲染完成
--include-tags 仅保留指定的 HTML 标签
--exclude-tags 排除指定的 HTML 标签
-o, --output 输出文件路径

使用提示

  • 优先使用基础 scrape,而非 --query。 先将页面抓取为文件,再通过 grep、head 或直接阅读 Markdown 进行分析——你可以自主对完整内容进行搜索与推理。仅当无需保存页面、且仅需一个精准答案时才使用 --query(额外消耗 5 个积分)。
  • 先尝试 scrape,再考虑 interact。 scrape 可处理静态页面及 JS 渲染的 SPA;仅当必须执行交互操作(如点击、填写表单、翻页等)时,才升级至 interact。
  • 多个 URL 默认并发抓取,请运行 firecrawl --status 查看当前并发限制。
  • 单一格式输出为原始内容(如纯 Markdown 文本);若指定多个格式(例如 --format markdown,links),则统一输出 JSON 格式。
  • 始终为 URL 加上英文双引号——Shell 会将 ? 和 & 解析为特殊字符。
  • 推荐命名规范:.firecrawl/{site}-{path}.md

参见

  • firecrawl-search —— 在没有明确 URL 时用于发现目标页面
  • firecrawl-interact —— 当 scrape 无法获取所需内容时,使用 interact 执行点击、表单填写等交互操作
  • firecrawl-download —— 批量下载整站内容至本地文件系统

相关专题

更多
Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

2026.11.06

0

12

Postman请求头Headers怎么设置
Postman请求头Headers怎么设置

围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。

2026.11.06

0

13

Postman接口请求发送教程
Postman接口请求发送教程

详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。

2026.11.06

0

10

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

2026.11.05

0

12

DBeaver安全防护教程大全
DBeaver安全防护教程大全

DBeaver安全防护专题,围绕数据库连接安全、账号密码保护和访问权限管理展开,整理SSL/TLS加密连接、SSH隧道、数据库凭据保存及证书验证等配置方法,同时介绍敏感信息保护、远程连接风险和高权限账号使用等注意事项,帮助用户提高数据库日常管理的安全性。

2026.11.05

0

12

DBeaver连接创建与配置教程
DBeaver连接创建与配置教程

本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。

2026.11.04

0

16

XORM框架结构体映射与表结构同步
XORM框架结构体映射与表结构同步

本专题围绕XORM框架的结构体映射展开,说明表名与字段的命名策略、xorm标签常用属性、主键自增与时间字段自动填充,并演示Sync2自动建表、增量字段升级、索引声明与反向生成结构体的完整流程。

2026.11.04

0

15

XORM框架安装配置与数据库连接
XORM框架安装配置与数据库连接

本专题聚焦XORM框架的配置与连接环节,拆解MySQL、PostgreSQL、SQLite、SQL Server的DSN写法与驱动选择,讲清连接池参数、多数据源拆分、读写分离与超时重连的处理方式,并补充容器与兼容数据库的适配经验。

2026.11.04

0

15

XORM框架安装配置与数据库连接
XORM框架安装配置与数据库连接

本专题聚焦XORM框架的配置与连接环节,拆解MySQL、PostgreSQL、SQLite、SQL Server的DSN写法与驱动选择,讲清连接池参数、多数据源拆分、读写分离与超时重连的处理方式,并补充容器与兼容数据库的适配经验。

2026.11.04

0

16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习