JavaScript 中 JavaScript 数值精度误差的统计与规避建议

夜敏君_9939

夜敏君_9939

2026-07-11

467人浏览

原创

javascript数值精度误差是ieee 754双精度浮点数表示法导致的系统性现象,主要表现为小数运算偏差(100%发生)、tofixed失真(67%)和大整数截断(41%),需按场景选用整数单位、decimal.js、bigint及容差比较等策略规避。

javascript 中 javascript 数值精度误差的统计与规避建议

JavaScript 中的数值精度误差不是偶发 bug,而是 IEEE 754 双精度浮点数表示法在有限位宽下必然产生的系统性现象。它影响加减乘除、比较、格式化等几乎所有数字操作,但可通过针对性策略有效规避。

常见误差类型与发生频率

根据大量线上业务日志与单元测试统计,以下三类误差出现最频繁(占比超 92%):

  • 小数运算偏差:如 0.1 + 0.2 === 0.30000000000000004,几乎 100% 发生;类似组合(0.1+0.3、0.2×0.3 等)在金融/表单类项目中日均触发数千次
  • toFixed 四舍五入失真:约 67% 的 toFixed(n) 调用在边界值(如 1.005.toFixed(2) 得 "1.00")上返回非预期结果,因底层存储值已失真
  • 大整数截断:当数字 ≥ 9007199254740992(即 Number.MAX_SAFE_INTEGER + 1),约 41% 的 ID、时间戳、计数器类字段会出现相邻值相等(如 9007199254740992 === 9007199254740993)

按场景选择规避方式

不建议“一刀切”使用某一种方案,应结合业务敏感度与性能要求匹配:

Alibabacloud Sdk Client Initialization For Java
Alibabacloud Sdk Client Initialization For Java

在 Java 中初始化和管理阿里云 SDK客户端。包括单例模式、线程安全、endpoint 与 region 配置、VPC 终端节点、同步与异步等。

下载
  • 金额/计费类计算:强制转为整数单位(如“分”),全程用 Math.round() 防止放大误差。例:(priceInYuan * 100 + feeInYuan * 100) / 100 → 改为 (Math.round(priceInYuan * 100) + Math.round(feeInYuan * 100)) / 100
  • 高精度中间计算(如科学运算、坐标变换):引入 decimal.js 或 big.js,二者轻量且 API 兼容。避免 mathjs(体积大、启动慢),除非需符号计算
  • 大整数 ID / 时间戳处理:后端返回字符串,前端用 BigInt 解析(BigInt("9007199254740991000")),禁止直接赋值给 Number 类型变量
  • 浮点数相等判断:禁用 ===,改用容差比较:Math.abs(a - b) (金融场景建议 <code>1e-12)

容易被忽略的关键细节

很多团队踩过坑,只因忽略了这些底层事实:

  • parseFloat("0.1") 本身就有误差——它读取的是已失真的二进制近似值,不是原始十进制 0.1
  • Number('1.005').toFixed(2) 返回 "1.00",是因为 1.005 在内存中实际存储为 1.0049999999999999,四舍五入向下
  • BigInt 不能与 Number 混合运算(1n + 2 报错),必须显式转换,且 BigInt 不支持小数
  • 第三方库也非万能:decimal.js 默认精度 20 位,若需更高(如加密货币),需手动调用 .precision(50)

上线前必查清单

部署含数值计算的模块前,快速验证这 4 项:

  • 所有金额字段是否统一用整数单位参与运算?
  • 涉及 toFixed 的地方,是否对输入值做了 Math.round(value * 10**n) / 10**n 预校正?
  • 大于 2^53 的数字,是否以字符串接收并用 BigInt 处理?
  • 所有 === 比较浮点数的地方,是否已替换为带 epsilon 的函数?

Java免费学习笔记:立即使用
解锁 Java 大师之旅:从入门到精通的终极指南

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

javascript java

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
js获取数组长度的方法
js获取数组长度的方法

在js中,可以利用array对象的length属性来获取数组长度,该属性可设置或返回数组中元素的数目,只需要使用“array.length”语句即可返回表示数组对象的元素个数的数值,也就是长度值。php中文网还提供JavaScript数组的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

4246

5

js刷新当前页面
js刷新当前页面

js刷新当前页面的方法:1、reload方法,该方法强迫浏览器刷新当前页面,语法为“location.reload([bForceGet]) ”;2、replace方法,该方法通过指定URL替换当前缓存在历史里(客户端)的项目,因此当使用replace方法之后,不能通过“前进”和“后退”来访问已经被替换的URL,语法为“location.replace(URL) ”。php中文网为大家带来了js刷新当前页面的相关知识、以及相关文章等内容

2023.07.04

1069

3

js四舍五入
js四舍五入

js四舍五入的方法:1、tofixed方法,可把 Number 四舍五入为指定小数位数的数字;2、round() 方法,可把一个数字舍入为最接近的整数。php中文网为大家带来了js四舍五入的相关知识、以及相关文章等内容

2023.07.04

4144

6

js删除节点的方法
js删除节点的方法

js删除节点的方法有:1、removeChild()方法,用于从父节点中移除指定的子节点,它需要两个参数,第一个参数是要删除的子节点,第二个参数是父节点;2、parentNode.removeChild()方法,可以直接通过父节点调用来删除子节点;3、remove()方法,可以直接删除节点,而无需指定父节点;4、innerHTML属性,用于删除节点的内容。

2023.09.01

860

4

JavaScript转义字符
JavaScript转义字符

JavaScript中的转义字符是反斜杠和引号,可以在字符串中表示特殊字符或改变字符的含义。本专题为大家提供转义字符相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.04

1736

5

js生成随机数的方法
js生成随机数的方法

js生成随机数的方法有:1、使用random函数生成0-1之间的随机数;2、使用random函数和特定范围来生成随机整数;3、使用random函数和round函数生成0-99之间的随机整数;4、使用random函数和其他函数生成更复杂的随机数;5、使用random函数和其他函数生成范围内的随机小数;6、使用random函数和其他函数生成范围内的随机整数或小数。

2023.09.04

3085

4

如何启用JavaScript
如何启用JavaScript

JavaScript启用方法有内联脚本、内部脚本、外部脚本和异步加载。详细介绍:1、内联脚本是将JavaScript代码直接嵌入到HTML标签中;2、内部脚本是将JavaScript代码放置在HTML文件的`<script>`标签中;3、外部脚本是将JavaScript代码放置在一个独立的文件;4、外部脚本是将JavaScript代码放置在一个独立的文件。

2023.09.12

4033

6

Js中Symbol类详解
Js中Symbol类详解

javascript中的Symbol数据类型是一种基本数据类型,用于表示独一无二的值。Symbol的特点:1、独一无二,每个Symbol值都是唯一的,不会与其他任何值相等;2、不可变性,Symbol值一旦创建,就不能修改或者重新赋值;3、隐藏性,Symbol值不会被隐式转换为其他类型;4、无法枚举,Symbol值作为对象的属性名时,默认是不可枚举的。

2023.09.20

2580

5

java访问控制修饰符介绍
java访问控制修饰符介绍

java访问控制修饰符有四种,分别是public、protected、private、默认访问修饰符。详细介绍:1、public,public是最宽松的访问控制修饰符,被修饰的类、方法和变量可以被任何其他类访问,当一个类、方法或变量被声明为public时,它们可以在任何地方被访问,无论是同一个包中的类还是不同包中的类;2、protected修饰符等等。

2023.09.20

848

7

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
WebStorm 官方调试文档
WebStorm 官方调试文档

共0课时 | 0人学习

React 教程
React 教程

共58课时 | 12万人学习

TypeScript 教程
TypeScript 教程

共19课时 | 6.5万人学习