如何比较Python NumPy与PyTorch在CPU张量运算上的性能?

轻瑶吖_7926

轻瑶吖_7926

2026-06-17

732人浏览

原创

直接对比需重复5–10次取中位数或最小值,禁用多线程(omp_num_threads=1)、统一float32、固定随机种子,并预热以消除mkl初始化抖动;否则单次time.time()测量受调度、缓存等噪声影响,误差可能超50%。

如何比较python numpy与pytorch在cpu张量运算上的性能?

直接测:用相同规模、相同 dtype、相同运算(比如 torch.mm vs np.dot),禁用多线程干扰,看 wall-clock 时间。PyTorch CPU 和 NumPy 在纯 CPU 场景下性能非常接近,但细节处理不当会放大误差。

为什么不能直接比 time.time() 包裹一次调用?

单次调用受 Python 解释器预热、缓存命中、系统调度等噪声影响太大,尤其对中小规模矩阵(如 1000×1000)可能误差超 50%。

  • 必须重复运行至少 5–10 次,取中位数或最小值(推荐最小值,排除 GC 或调度抖动)
  • 每次运行前加 torch.manual_seed() 和 np.random.seed(),确保数据一致
  • NumPy 需显式关闭 OpenMP 干扰:export OMP_NUM_THREADS=1(Linux/macOS)或 os.environ["OMP_NUM_THREADS"] = "1"(Python 内)
  • PyTorch CPU 默认也走 MKL/OpenBLAS,但若装的是非 MKL 版本(如 conda-forge 默认),性能会明显下降

np.dot 和 torch.mm 的行为差异会影响结果吗?

会。它们底层调用的 BLAS 实现不同,且输入约束不完全等价:

361SCAN security check your skill python scripts
361SCAN security check your skill python scripts

扫描并分析已安装技能,用于查看指定技能目录的名称、描述和详情,或列出所有已安装的技能。

下载
  • np.dot(a, b) 对 2D 输入等价于 np.matmul,但对高维会触发广播规则;torch.mm 严格只接受 2D 张量,维度不匹配直接报错
  • 确保两者都用 float32:NumPy 默认 float64,PyTorch 默认 float32;不统一 dtype 会导致 NumPy 被拖慢 2 倍以上
  • PyTorch CPU 张量默认使用与 NumPy 相同的 BLAS 后端(如 Intel MKL),但需确认:torch.__config__.show() 中查看是否含 mkl

如何写出可复现的对比脚本?

关键不是“跑通”,而是控制变量。下面这段代码能排除常见干扰:

import torch
import numpy as np
import time
import os
<h1>固定随机种子 & 禁用多线程</h1><p>os.environ["OMP_NUM_THREADS"] = "1"
torch.set_num_threads(1)
np.random.seed(42)
torch.manual_seed(42)</p><p>size = 2000
a_np = np.random.rand(size, size).astype(np.float32)
b_np = np.random.rand(size, size).astype(np.float32)
a_t = torch.from_numpy(a_np)
b_t = torch.from_numpy(b_np)</p><h1>预热</h1><p>_ = np.dot(a_np, b<em>np)
</em> = torch.mm(a_t, b_t)</p><h1>测 NumPy</h1><p>times<em>np = []
for </em> in range(5):
s = time.time()
_ = np.dot(a_np, b_np)
times_np.append(time.time() - s)
print(f"NumPy median: {np.median(times_np):.4f}s")</p><h1>测 PyTorch CPU</h1><p>times<em>pt = []
for </em> in range(5):
s = time.time()
_ = torch.mm(a_t, b_t)
times_pt.append(time.time() - s)
print(f"PyTorch CPU median: {np.median(times_pt):.4f}s")</p>

注意:torch.from_numpy() 不拷贝内存,避免额外开销;预热步骤不可省——MKL 会在首次调用时做 JIT 初始化。

真正容易被忽略的是 BLAS 后端一致性。如果你用 conda 安装的 PyTorch 来自 pytorch channel,它绑定了 Intel MKL;而 pip 安装的可能用 OpenBLAS,此时和 NumPy(通常也来自 conda)就不在同一起跑线。别只看数字,先 torch.__config__.show() 和 np.show_config() 对齐后端再说快慢。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

pytorch 性能测试 python

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1751

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4564

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1729

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

26857

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3247

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3267

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1203

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2543

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程