VSCode 运行 Python 爬虫时的 User-Agent 与代理环境变量

雨晨君_7462

雨晨君_7462

2026-06-30

904人浏览

原创

VSCode中requests报403主因是未设置User-Agent,需手动添加;代理配置需区分环境变量与proxies参数,aiohttp不读环境变量须显式配置connector。

vscode 运行 python 爬虫时的 user-agent 与代理环境变量

VSCode 里 requests 报 403?检查 User-Agent 是不是空的

requests 默认不带 User-Agent,多数网站直接返回 403。这不是 VSCode 的问题,而是代码没显式设置请求头导致的。

常见错误写法:requests.get("https://example.com") —— 没传 headers,服务器一眼认出是爬虫。

实操建议:

  • 必须手动构造 headers 字典,"User-Agent" 键名大小写敏感,值推荐用主流浏览器字符串(如 Chrome 最新版)
  • 别硬编码在每次请求里,封装成常量或函数参数更可控
  • 如果用了 BeautifulSoup 解析,User-Agent 仍由 requests 负责传递,BS4 不参与网络层
  • 验证是否生效:打印 response.request.headers,确认 User-Agent 出现在输出中

代理只对插件生效?HTTP_PROXY 和 HTTPS_PROXY 环境变量要分清作用域

VSCode 自身更新、插件安装走的是 Electron 主进程,它读取系统级 HTTP_PROXY/HTTPS_PROXY;但你写的爬虫脚本运行在 Python 子进程中,默认不继承这些变量——除非你主动传入或在启动前设好。

典型现象:VSCode 能装插件,但 requests.get() 仍连不上目标站,报超时或 ConnectionRefused。

实操建议:

  • 在终端激活虚拟环境后,先执行 export HTTP_PROXY=http://127.0.0.1:8080(macOS/Linux)或 set HTTP_PROXY=http://127.0.0.1:8080(Windows CMD),再启动 VSCode(code .)
  • 不要依赖 VSCode 设置里的 http.proxy,那个只管 UI 层,不影响 Python 进程
  • 若代理需认证,环境变量格式为 http://user:pass@host:port,注意 URL 编码特殊字符
  • 临时验证:在 Python 脚本开头加 import os; print(os.environ.get("HTTP_PROXY")),确认变量已注入

proxies 参数优先级高于环境变量,但写错 key 就失效

requests 支持两种代理方式:全局环境变量 or 单次请求的 proxies 参数。后者优先级更高,但 key 必须严格匹配协议 —— "http" 对 HTTP 请求,"https" 对 HTTPS 请求,少一个就 fallback 到直连。

macOS UI 自动化技能包 —— 用 Python 控制你的 Mac
macOS UI 自动化技能包 —— 用 Python 控制你的 Mac

让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac,无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启:辅助功能 + 屏幕录制权限

下载

常见错误:

  • 只写 {"http": "http://proxy:8080"},但目标 URL 是 https://,结果走直连被墙
  • 误写成 {"https": "http://..."},协议不一致导致 requests 忽略该条目
  • 代理地址漏了 http:// 前缀,变成 {"http": "proxy:8080"},requests 当作域名处理,解析失败

实操建议:

  • 统一用完整 URL 形式:{"http": "http://p:8080", "https": "http://p:8080"}(注意:HTTPS 代理也常用 http:// 协议)
  • 调试时加 verify=False 避免 SSL 证书干扰,但上线前必须删掉
  • 把 proxies 提成变量,方便切换:例如 PROXIES = os.getenv("USE_PROXY") and {"http": "...", "https": "..."} or None

异步爬虫(aiohttp)不读环境变量,ProxyConnector 得手动配

aiohttp 默认完全忽略 HTTP_PROXY 环境变量,也不会自动从 requests 的 proxies 字典取值。你要显式创建带代理的 connector,再传给 ClientSession。

否则现象是:同步 requests 走代理成功,aiohttp 却直连失败,且无任何警告。

实操建议:

  • 用 aiohttp.TCPConnector(proxy="http://p:8080") 初始化 connector
  • connector 必须复用,不要每次请求都新建,否则连接池失效
  • HTTPS 代理同理,但注意 aiohttp 的 proxy 参数本身支持 https:// 或 http://,无需额外区分协议 key
  • 若代理需要 Basic Auth,URL 写成 http://user:pass@p:8080 即可,aiohttp 会自动提取

环境变量和代码层的代理控制容易混在一起,尤其当同步/异步混用时。最稳的做法是:Python 进程启动前设好环境变量,代码里用 proxies 或 connector 显式覆盖,而不是赌哪一层“应该生效”。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1851

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4984

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1789

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

29877

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3567

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3567

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1223

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

616

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2763

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程