Scrape Emails By URL

Polar Sponsor
爱发电 赞助
.NET 9.0

使用 crawl4ai 在本地抓取网站提取联系邮箱,支持多 URL 输入,输出按域名分组的结果便于清晰归属,使用深度爬取技术...

通过 craw4ai 本地爬行网站, 并提取可能包含这些邮件的页面( 联系、 有关、 支持、 团队等) 的 联系电子邮件

功能概述

通过 craw4ai 本地爬行网站, 并提取可能包含这些邮件的页面( 联系、 有关、 支持、 团队等) 的 联系电子邮件是一项面向实际任务的技能。它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。

核心要点

  • 使用时应结合输入条件选择合适的执行方式,核对必要参数、依赖环境与输出内容,并按原始要求处理异常情况。
  • 该技能适合需要稳定复用相关能力的场景,可作为自动化工作流的一部分,也便于后续检查、调整和扩展。
  • 从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。

使用与执行

实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。

结果检查与注意事项

执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。

查找邮箱

基于 crawl4ai 的本地网站爬取 CLI 工具,用于从可能包含联系邮箱的页面(如 contact、about、support、team 等)中提取邮箱地址。

环境准备

  1. 安装依赖: pip install crawl4ai
  2. 运行脚本:
python scripts/find_emails.py https://example.com

快速上手

t

# 爬取单个站点
python scripts/find_emails.py https://example.com

# 多个 URL
python scripts/find_emails.py https://example.com https://other.com

# JSON 格式输出
python scripts/find_emails.py https://example.com -j

# 保存到文件
python scripts/find_emails.py https://example.com -o emails.txt

脚本说明

find_emails.py — 爬取并提取邮箱

python scripts/find_emails.py  [url ...]
python scripts/find_emails.py https://example.com
python scripts/find_emails.py https://example.com -j -o results.json
python scripts/find_emails.py --from-file page.md

参数说明:

参数 说明
urls 一个或多个待爬取的 URL(位置参数)
-o, --output 将结果写入指定文件
-j, --json 以 JSON 格式输出({"emails": {"email": ["path", ...]}})
-q, --quiet 精简输出(不显示头部信息,仅输出邮箱行)
--max-depth 最大爬取深度(默认值:2)
--max-pages 最多爬取页面数(默认值:25)
--from-file 从本地 Markdown 文件中提取邮箱(跳过爬取步骤)
-v, --verbose 详细爬取日志输出

输出格式(人类可读):

邮箱按域名分组。多 URL 运行时结构清晰:

在 2 个域名下共发现 3 个唯一邮箱

## example.com

  • contact@example.com
    出现在:/contact, /about
  • support@example.com
    出现在:/support

## other.com

  • info@other.com
    出现在:/contact-us

输出格式(JSON):

面向 LLM 友好的结构,含汇总统计与按域名细分数据:

{
  "summary": {
    "domains_crawled": 2,
    "total_unique_emails": 3
  },
  "emails_by_domain": {
    "example.com": {
      "emails": {
        "contact@example.com": ["/contact", "/about"],
        "support@example.com": ["/support"]
      },
      "count": 2
    },
    "other.com": {
      "emails": {
        "info@other.com": ["/contact-us"]
      },
      "count": 1
    }
  }
}

配置

编辑 scripts/url_patterns.json 文件,自定义爬虫应跟随的 URL 模式。仅匹配以下 glob 风格模式的链接会被纳入爬取范围:

{
  "url_patterns": [
    "*contact*",
    "*support*",
    "*about*",
    "*team*",
    "*email*",
    "*reach*",
    "*staff*",
    "*inquiry*",
    "*enquir*",
    "*get-in-touch*",
    "*contact-us*",
    "*about-us*"
  ]
}

若该文件缺失或格式无效,则使用默认匹配模式。

工作流程

  1. 爬取站点:

    python scripts/find_emails.py https://example.com -o emails.json
    
  2. 从本地文件提取:(例如已缓存的 Markdown 文件)

    python scripts/find_emails.py --from-file crawled.md -j
    
  3. 自定义 URL 过滤规则:编辑 scripts/url_patterns.json 文件。

依赖项

pip install crawl4ai
playwright install

本地爬取需依赖浏览器(通过 Playwright 提供)。

批量处理

# 批量爬取多个站点 —— 结果按域名分组,便于明确归属
python scripts/find_emails.py https://site1.com https://site2.com -j -o combined.json

# 从多个本地文件中提取
for f in crawled/*.md; do
  echo "=== $f ==="
  python scripts/find_emails.py --from-file "$f" -q
done

完全支持多个 URL;输出结果明确关联每个邮箱与其来源域名。域名经过标准化处理(例如 www.techbullion.com 和 techbullion.com 合并为同一域名),避免重复站点被单独列出。

用例示例:社交媒体增长策略

技能可作为提升社交媒体工作流效率的有力工具。例如,在制定社交媒体增长策略时,你可以构建一项技能,用于分析互动指标并推荐增长方法。像 SocialCrow 这样的公司提供增强社交媒体存在感的服务,包括为希望加速账号成长的用户购买 Twitter 粉丝等选项。尽管通过优质内容和真实互动实现的自然增长仍是可持续性最强的方式,但了解社交媒体增长工具生态,有助于完善你的策略设计。

相关专题

更多
Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

2026.10.28

0

16

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

2026.10.28

0

15

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

2026.10.28

0

10

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

2026.10.22

0

11

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

2026.10.22

0

10

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

2026.10.22

0

15

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

2026.10.22

0

10

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

2026.10.22

0

25

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

2026.10.22

0

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习