
本文详解如何在 Selenium 中通过 execute_async_script 正确调用浏览器原生 fetch,同步获取 JSON 响应、携带自定义请求头、复用登录态 Cookie,并解决代理不生效、异步回调阻塞等高频问题。
本文详解如何在 selenium 中通过 `execute_async_script` 正确调用浏览器原生 `fetch`,同步获取 json 响应、携带自定义请求头、复用登录态 cookie,并解决代理不生效、异步回调阻塞等高频问题。
在 Web 自动化测试与接口联调场景中,常需绕过 UI 操作,直接向服务端发起带身份凭证(如 Cookie、Token)的 POST/GET 请求。Selenium 本身不提供原生 post() 或 get() 方法——其设计定位是浏览器行为模拟器,而非 HTTP 客户端。但借助 execute_async_script 在页面上下文中执行 fetch,我们可无缝复用当前会话的 Cookie、TLS 状态与代理配置,实现“所见即所发”的精准请求控制。
✅ 正确用法:execute_async_script + fetch 同步收口
execute_script 无法等待 Promise,而 fetch 返回 Promise,因此必须使用 execute_async_script,并显式传入回调函数(arguments[0])接收响应:
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
chrome_options = Options()
chrome_options.add_argument("--proxy-server=127.0.0.1:8888")
chrome_options.add_argument("--ignore-certificate-errors")
# 关键:启用 DevTools Protocol 支持代理生效(尤其对 fetch)
chrome_options.add_experimental_option("useAutomationExtension", False)
chrome_options.add_experimental_option("excludeSwitches", ["enable-automation"])
driver = webdriver.Chrome(options=chrome_options)
driver.get("https://myhttpheader.com/")
# ✅ 正确:fetch + execute_async_script + 回调收口
response_text = driver.execute_async_script("""
const callback = arguments[0];
const url = 'https://myhttpheader.com/';
const options = {
method: 'GET',
headers: {
'Accept': '*/*',
'Accept-Language': 'ru,en-US;q=0.9,en;q=0.8,ru-RU;q=0.7',
'Cache-Control': 'no-cache',
'Origin': 'https://myhttpheader.com',
'CUSTOM_HEADER_1': 'value_1',
'CUSTOM_HEADER_2': 'value_2'
},
// ⚠️ 注意:跨域时若需携带 Cookie,必须加 credentials: 'include'
credentials: 'include'
};
fetch(url, options)
.then(r => {
if (!r.ok) throw new Error(`HTTP ${r.status} ${r.statusText}`);
return r.text(); // 或 r.json() —— 但需确保后端返回合法 JSON
})
.then(data => callback(data))
.catch(err => callback({ error: err.message }));
""")
print("Response:", response_text)
driver.quit()
? 关键点说明:
execute_async_script的最后一个参数自动作为 JavaScript 中的callback函数注入;credentials: 'include'是携带 Cookie 的必要条件(同源或已配 CORS);- 使用
.text()而非.json()可避免因响应非 JSON 导致脚本崩溃;后续在 Python 层用json.loads()安全解析更可控;- 若需 POST,添加
body: JSON.stringify({...})并设置'Content-Type': 'application/json'。
⚠️ 代理未生效?原因与修复方案
你观察到代理无日志,根本原因在于:fetch 请求默认不走浏览器代理链(尤其当代理为 HTTP/HTTPS 类型时)。Chrome 对 fetch 的网络栈处理与页面导航不同,部分代理配置(如 --proxy-server)仅作用于主文档加载和资源请求,不强制覆盖 fetch。
✅ 推荐解决方案:
-
改用 CDP(Chrome DevTools Protocol)全局拦截(最可靠):
driver.execute_cdp_cmd('Network.setProxy', { 'proxy': { 'proxyType': 'manual', 'httpProxy': '127.0.0.1:8888', 'sslProxy': '127.0.0.1:8888' } }) driver.execute_cdp_cmd('Network.enable', {}) -
确保启动 Chrome 时启用
--proxy-server且禁用自动化标志(如上例中excludeSwitches); -
验证代理有效性:访问
chrome://net-internals/#proxy查看当前代理配置是否激活。
? 进阶能力:双通道封装(Fetch + requests.Session)
单一 fetch 方案适合「强依赖浏览器上下文」的场景(如需 JS 动态计算签名、Canvas Fingerprint),但调试困难、跨域受限。生产环境建议采用双通道策略:
-
通道一(浏览器内):
fetch→ 自动携带 Cookie、Referer、TLS 会话,用于验证前端真实行为; -
通道二(Python 侧):将 Selenium 的 Cookie 同步至
requests.Session,复用同一登录态发起调试友好、可断点、易重试的请求:
import requests
from selenium.webdriver.common.by import By
# 同步 Cookie(自动转换格式)
session = requests.Session()
for cookie in driver.get_cookies():
session.cookies.set(cookie['name'], cookie['value'],
domain=cookie.get('domain', ''),
path=cookie.get('path', '/'))
# 直接复用会话发请求(含所有认证信息)
resp = session.get("https://myhttpheader.com/",
headers={"CUSTOM_HEADER_1": "value_1"})
print(resp.json())
该模式兼顾了可信性(浏览器态) 与可观测性(Python 控制流),是自动化测试框架中推荐的工程化实践。
✅ 总结:避坑清单
| 问题 | 原因 | 解决方案 |
|---|---|---|
fetch 返回 Promise 无法取值 |
execute_script 不等待异步 |
必用 execute_async_script + callback
|
代理对 fetch 无效 |
fetch 网络栈独立于导航代理 |
改用 CDP Network.setProxy 或验证代理类型 |
| 跨域请求被拦截 | 缺少 CORS 配置或 credentials
|
后端开 CORS + credentials: 'include' + mode: 'cors'
|
| 响应解析失败(如非 JSON) | 直接调用 .json() 报错 |
先 .text(),再 Python 层 json.loads() 容错处理 |
| Cookie 未自动携带 | 默认 credentials: 'omit'
|
显式设置 credentials: 'include'
|
通过合理封装 fetch 调用,Selenium 不再只是“点点点”工具,而是可深度参与接口层验证的全栈自动化引擎。掌握这一能力,你将真正打通 UI 自动化与接口测试的边界。










