使用 Firecrawl API 进行网页抓取和爬取。获取网页内容为 markdown 格式、截取屏幕快照、提取结构化数据、搜索网页、爬取文档站点。适用于需要抓取 URL、获取最新网络信息、截屏、从页面提取特定数据或爬取框架/库文档的场景。
Firecrawl Web Skill. 搜索, 并使用 Firecrawl 爬网.是一项面向实际任务的技能,主要用于Setup. 从 firecrawl.dev/app/ api- keys 获取您的 API 密钥. 选择环境变量 : 插入 SDK : 所有命令使用 bu。它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。
若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;
涉及批量任务时,还应保存进度,避免中断后重复操作。该技能适合用于一次性任务,也可以接入自动化工作流,与其他技能或上层代理配合完成更完整的业务链路;在组合使用时,应明确每一步的输入输出关系,并避免不同步骤之间出现参数冲突。
使用 Firecrawl 进行网页抓取、搜索与爬取。
export FIRECRAWL_API_KEY=fc-your-key-here
pip3 install firecrawl
所有命令均使用该技能目录下自带的 fc.py 脚本。
获取任意 URL 并转换为干净的 Markdown 格式。支持 JavaScript 渲染的内容。
python3 fc.py markdown "https://example.com" python3 fc.py markdown "https://example.com" --main-only # 跳过导航栏/页脚
对任意 URL 截取整页截图。
python3 fc.py screenshot "https://example.com" -o screenshot.png
根据 JSON Schema 从网页中提取指定字段。
Schema 示例(schema.json):
{
"type": "object",
"properties": {
"title": { "type": "string" },
"price": { "type": "number" },
"features": { "type": "array", "items": { "type": "string" } }
}
}
python3 fc.py extract "https://example.com/product" --schema schema.json python3 fc.py extract "https://example.com/product" --schema schema.json --prompt "Extract the main product details"
执行网络搜索并返回结果页面内容(可能需订阅付费套餐)。
python3 fc.py search "Python 3.13 new features" --limit 5
完整爬取整个文档网站,适用于学习新框架。
python3 fc.py crawl "https://docs.example.com" --limit 30 python3 fc.py crawl "https://docs.example.com" --limit 50 --output ./docs
注意:每抓取一个页面消耗 1 个积分,请合理设置限制值。
在决定抓取哪些页面前,先发现网站上的全部 URL。
python3 fc.py map "https://example.com" --limit 100 python3 fc.py map "https://example.com" --search "api"
免费套餐包含 500 个积分。1 个积分 = 1 个页面 / 1 次截图 / 1 次搜索请求。
相关专题
热门下载
相关下载
精品课程
共6课时 | 54.7万人学习
共89课时 | 134.1万人学习
共49课时 | 82.5万人学习
最新文章