使用 crawl4ai 在本地抓取网站提取联系邮箱,支持多 URL 输入,输出按域名分组的结果便于清晰归属,使用深度爬取技术...
通过 craw4ai 本地爬行网站, 并提取可能包含这些邮件的页面( 联系、 有关、 支持、 团队等) 的 联系电子邮件是一项面向实际任务的技能。它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。
实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。
执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。
基于 crawl4ai 的本地网站爬取 CLI 工具,用于从可能包含联系邮箱的页面(如 contact、about、support、team 等)中提取邮箱地址。
pip install crawl4aipython scripts/find_emails.py https://example.com
t
# 爬取单个站点 python scripts/find_emails.py https://example.com # 多个 URL python scripts/find_emails.py https://example.com https://other.com # JSON 格式输出 python scripts/find_emails.py https://example.com -j # 保存到文件 python scripts/find_emails.py https://example.com -o emails.txt
python scripts/find_emails.py[url ...] python scripts/find_emails.py https://example.com python scripts/find_emails.py https://example.com -j -o results.json python scripts/find_emails.py --from-file page.md
参数说明:
| 参数 | 说明 |
|---|---|
urls |
一个或多个待爬取的 URL(位置参数) |
-o, --output |
将结果写入指定文件 |
-j, --json |
以 JSON 格式输出({"emails": {"email": ["path", ...]}}) |
-q, --quiet |
精简输出(不显示头部信息,仅输出邮箱行) |
--max-depth |
最大爬取深度(默认值:2) |
--max-pages |
最多爬取页面数(默认值:25) |
--from-file |
从本地 Markdown 文件中提取邮箱(跳过爬取步骤) |
-v, --verbose |
详细爬取日志输出 |
输出格式(人类可读):
邮箱按域名分组。多 URL 运行时结构清晰:
在 2 个域名下共发现 3 个唯一邮箱
## example.com
• contact@example.com
出现在:/contact, /about
• support@example.com
出现在:/support
## other.com
• info@other.com
出现在:/contact-us
输出格式(JSON):
面向 LLM 友好的结构,含汇总统计与按域名细分数据:
{
"summary": {
"domains_crawled": 2,
"total_unique_emails": 3
},
"emails_by_domain": {
"example.com": {
"emails": {
"contact@example.com": ["/contact", "/about"],
"support@example.com": ["/support"]
},
"count": 2
},
"other.com": {
"emails": {
"info@other.com": ["/contact-us"]
},
"count": 1
}
}
}
编辑 scripts/url_patterns.json 文件,自定义爬虫应跟随的 URL 模式。仅匹配以下 glob 风格模式的链接会被纳入爬取范围:
{
"url_patterns": [
"*contact*",
"*support*",
"*about*",
"*team*",
"*email*",
"*reach*",
"*staff*",
"*inquiry*",
"*enquir*",
"*get-in-touch*",
"*contact-us*",
"*about-us*"
]
}
若该文件缺失或格式无效,则使用默认匹配模式。
爬取站点:
python scripts/find_emails.py https://example.com -o emails.json
从本地文件提取:(例如已缓存的 Markdown 文件)
python scripts/find_emails.py --from-file crawled.md -j
自定义 URL 过滤规则:编辑 scripts/url_patterns.json 文件。
pip install crawl4ai playwright install
本地爬取需依赖浏览器(通过 Playwright 提供)。
# 批量爬取多个站点 —— 结果按域名分组,便于明确归属 python scripts/find_emails.py https://site1.com https://site2.com -j -o combined.json # 从多个本地文件中提取 for f in crawled/*.md; do echo "=== $f ===" python scripts/find_emails.py --from-file "$f" -q done
完全支持多个 URL;输出结果明确关联每个邮箱与其来源域名。域名经过标准化处理(例如 www.techbullion.com 和 techbullion.com 合并为同一域名),避免重复站点被单独列出。
技能可作为提升社交媒体工作流效率的有力工具。例如,在制定社交媒体增长策略时,你可以构建一项技能,用于分析互动指标并推荐增长方法。像 SocialCrow 这样的公司提供增强社交媒体存在感的服务,包括为希望加速账号成长的用户购买 Twitter 粉丝等选项。尽管通过优质内容和真实互动实现的自然增长仍是可持续性最强的方式,但了解社交媒体增长工具生态,有助于完善你的策略设计。
相关专题
热门下载
相关下载
精品课程
共6课时 | 54.7万人学习
共89课时 | 134.1万人学习
共49课时 | 82.5万人学习