C#怎么抓取网页上的所有图片_C#如何编写正则爬虫【案例】

阿杰君_6247

阿杰君_6247

2026-03-24

494人浏览

原创

HttpClient 是下载网页 HTML 的首选,需设 User-Agent、用 await GetStringAsync、处理 GB2312 编码;解析用 HtmlAgilityPack 提取 img[src] 及 data-src 等属性,转绝对路径后流式下载,并加超时、限速、UA 轮换与随机延迟防风控。

用 HttpClient 下载网页 HTML 再解析,别用 WebClient 或 IE 控件

直接抓图片的前提是先拿到网页源码,httpclient 是目前最稳妥的选择。webclient 已标记为过时,而 webbrowser 依赖 ie 引擎、启动慢、线程模型复杂,容易卡死或抛 comexception。

常见错误是没设请求头,被网站反爬直接返回空页或 403 —— 至少加上 User-Agent:

var client = new HttpClient();
client.DefaultRequestHeaders.UserAgent.ParseAdd("Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36");
  • 务必用 await client.GetStringAsync(url),别用同步的 GetAsync().Result,否则容易死锁
  • 如果页面是动态渲染(如 Vue/React),HttpClient 拿到的是初始 HTML,不含 JS 渲染后的 <img>,这时得换 PuppeteerSharp
  • 注意编码:部分老站用 GB2312,GetStringAsync 可能乱码,需用 GetByteArrayAsync + Encoding.GetEncoding("gb2312").GetString(...)

用 HtmlAgilityPack 解析 <img> 标签,别硬写正则

正则匹配 <img src="..."> 看似简单,但实际会漏掉 srcset、data-src(懒加载)、background-image 行内样式,还容易被注释、嵌套引号、换行搞崩。真实网页里 <img> 属性顺序不固定、有大小写混用、甚至带命名空间 —— 正则根本不可靠。

HtmlAgilityPack 是 .NET 生态里最成熟的 HTML 解析库,它把 HTML 当树处理,稳定且语义清晰:

var doc = new HtmlDocument();
doc.LoadHtml(html);
var imgs = doc.DocumentNode.SelectNodes("//img[@src]");
  • 取 src:直接 img.GetAttributeValue("src", "")
  • 兼容懒加载:顺手加一句 || img.GetAttributeValue("data-src", "") || img.GetAttributeValue("data-original", "")
  • 过滤无效链接:跳过 javascript:、about:、空字符串、data:image/ base64
  • 注意相对路径:要用 new Uri(baseUri, src) 转成绝对地址,baseUri 是原始网页 URL

下载图片时用 HttpClient 流式写入,避免内存爆掉

一张 5MB 的图,用 GetStringAsync 或 GetByteArrayAsync 会一次性全读进内存;批量下载几十张就可能触发 OutOfMemoryException。

C#
C#

"避开 C# 常见错误——空陷阱、异步陷阱、LINQ 陷阱及资源泄漏。"

下载

正确做法是用 GetStreamAsync + FileStream 分块拷贝:

using var stream = await client.GetStreamAsync(imgUrl);
using var file = File.Create(filePath);
await stream.CopyToAsync(file);
  • 加超时控制:client.Timeout = TimeSpan.FromSeconds(15),否则卡在某个坏链接上整个任务挂住
  • 并发数别瞎开高:默认 HttpClient 连接池上限是 2,想并发下载得显式配置 SocketsHttpHandler.MaxConnectionsPerServer
  • 文件名要 sanitize:Path.GetInvalidFileNameChars() 里的字符(如 , :)必须替换或移除,否则 UnauthorizedAccessException

遇到 429 Too Many Requests 或验证码,说明你已触发风控

这不是代码 bug,是策略问题。很多站点对无头请求频率敏感,哪怕只抓一页,也可能被限流。

  • 加随机延迟:await Task.Delay(Random.Shared.Next(500, 2000)),别用固定值
  • 换 User-Agent 池:每次请求换一个,从常见浏览器 UA 列表里随机取
  • 别省略 Accept、Accept-Language 等头,越像真实浏览器越安全
  • 如果目标站用了 Cloudflare 或人机验证,HtmlAgilityPack + HttpClient 就不够用了,得切到 PuppeteerSharp 或找 API 接口

真正难的从来不是“怎么写出第一张图”,而是“怎么让一百张图都稳稳落盘还不被封 IP”。路径、编码、UA、延迟、异常恢复——每个环节松一扣,整条链就断。

相关专题

更多
c#是什么意思
c#是什么意思

C#是一种通用的面向对象编程语言,它在.NET框架上运行,可用于开发各种类型的应用程序。本专题为大家提供c#相关的各种文章、以及下载和课程。

2023.08.08

932

5

什么是c#
什么是c#

C#(读作C Sharp)是一种现代的、通用的、面向对象的编程语言。它由微软公司开发,于2000年首次发布,主要用于开发Windows桌面应用程序、Web应用程序、移动应用程序以及游戏开发等领域。C#是一种类型安全和托管的编程语言,它结合了C++的强大性能和C语言的简单易学特点,并引入了许多新的特性和概念,如委托、属性、泛型和异步编程等,以提高开发效率和代码可维护性。

2023.08.31

2611

3

C#中base关键字的用法
C#中base关键字的用法

在C#中,base关键字用于访问当前类的基类成员,这包括基类的字段、属性、方法、构造函数、索引器以及事件。想了解更多C#的相关内容,可以阅读本专题下面的文章。

2024.03.13

845

8

C#Task用法
C#Task用法

Task在C#中是用于表示异步操作的对象,它位于System.Threading.Tasks命名空间中。想了解更多C#中各种用法的相关内容,可以阅读本专题下面的文章。

2024.03.14

2595

11

C# 并发与异步编程
C# 并发与异步编程

本专题系统讲解 C# 异步编程与并发控制,重点介绍 async 和 await 关键字、Task 类、线程池管理、并发数据结构、死锁与线程安全问题。通过多个实战项目,帮助学习者掌握 如何在 C# 中编写高效的异步代码,提升应用的并发性能与响应速度。

2026.02.03

292

18

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

2026.02.06

369

20

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

2026.03.11

611

24

C# Unity游戏开发与ECS架构实践
C# Unity游戏开发与ECS架构实践

本专题聚焦 C# 在 Unity 游戏开发中的应用,系统讲解 ECS(Entity-Component-System)架构设计、游戏对象管理、性能优化与内存控制策略。通过实际游戏案例,帮助开发者构建高性能、结构清晰的游戏系统,提高游戏开发效率与运行性能。

2026.04.13

309

20

js正则表达式
js正则表达式

php中文网为大家提供各种js正则表达式语法大全以及各种js正则表达式使用的方法,还有更多js正则表达式的相关文章、相关下载、相关课程,供大家免费下载体验。

2023.06.20

4036

8

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Conan 2 Essentials 免费课程
Conan 2 Essentials 免费课程

共0课时 | 0人学习

CMake 与 Conan 集成实践
CMake 与 Conan 集成实践

共0课时 | 0人学习

Conan 2 高级依赖模型介绍
Conan 2 高级依赖模型介绍

共0课时 | 0人学习