C#怎么进行高精度浮点数计算_C#如何使用decimal类型【避坑】

千婷小哥_7452

千婷小哥_7452

2026-03-23

896人浏览

原创

用 double 算钱会出错,因其二进制浮点表示无法精确存储多数十进制小数(如 0.1),导致加减偏差;金融等需“精确到分”的场景必须全程使用 decimal,并确保字面量带 m 后缀、DB 字段为 DECIMAL、JSON 解析不走 double 路径。

c#怎么进行高精度浮点数计算_c#如何使用decimal类型【避坑】

为什么 double 算钱会出错?

因为 double 是二进制浮点数,无法精确表示很多十进制小数(比如 0.1 或 19.99),加减后常出现 0.1 + 0.2 == 0.30000000000000004 这类偏差。金融、计费、库存扣减等场景只要涉及“精确到分”,就必须换类型。

常见错误现象:decimal total = 19.99m + 0.01m; 看似没问题,但若从 double 赋值:decimal d = 19.99;(没加 m 后缀)——编译器先按 double 解析再转 decimal,精度已在前一步丢失。

  • 所有字面量必须显式加 m 或 M 后缀,例如 123.45m,否则默认是 double
  • 从数据库读取数值时,确认字段类型是 DECIMAL/NUMERIC,不是 FLOAT 或 REAL;ADO.NET 中用 GetDecimal() 而非 GetDouble()
  • 第三方 API 返回的 JSON 数值若没指定类型,反序列化时可能走 double 路径,需手动干预(如用 JsonSerializerOptions.NumberHandling = JsonNumberHandling.AllowReadingFromString 配合自定义转换器)

decimal 的性能和边界在哪?

decimal 是 128 位结构体,比 double(64 位)慢,但这是为精度付出的合理代价。它不是“万能高精度类型”——最大值约 ±7.9×10²⁸,最小非零值约 1×10⁻²⁸,超出就抛 OverflowException。

容易踩的坑:Math.Pow(10, 30) 返回 double,直接转 decimal 会溢出或失真;decimal 不支持 Math.Sqrt、Math.Log 等函数,需自己实现或接受 double 中间结果(此时精度已降级)。

C#
C#

"避开 C# 常见错误——空陷阱、异步陷阱、LINQ 陷阱及资源泄漏。"

下载
  • 避免在循环中频繁做 decimal 开方、三角运算;如必须,先转 double 计算,再根据业务容忍度决定是否转回
  • 大数乘法(如 99999999999999999999m * 99999999999999999999m)可能触发溢出,建议用 checked 块捕获异常
  • EF Core 中映射 decimal 属性,默认生成 decimal(18,2),若需更高精度(如汇率保留 6 位),得用 [Column(TypeName = "decimal(18,6)")]

和 double/float 混用时最危险的操作

隐式转换不存在:decimal 和 double 之间没有隐式转换,但显式强制转换((decimal)myDouble)会静默丢精度,且不报错。

典型翻车现场:前端传 {"price": 19.99} 到 ASP.NET Core API,控制器参数是 decimal price,但模型绑定底层用了 double 解析字符串再转 —— 这个过程可能引入误差(尤其在某些文化环境下小数点解析异常)。

  • 永远不要写 (decimal)someDoubleVariable,除非你明确知道该 double 值本身可被精确表示为十进制有限小数(比如整数或 0.5/0.25 这类)
  • 从字符串转 decimal 用 decimal.TryParse(s, out var d),别用 Convert.ToDecimal(s) —— 后者在区域设置不一致时可能因千分位符崩溃
  • 日志里打印 decimal 时别用 $"{d}",它依赖当前线程文化;固定格式用 d.ToString("G29")(最多 29 位有效数字,保证不丢精度)

事情说清了就结束。关键就一条:只要业务语义要求“绝对精确到某一位”,就锁死 decimal,从输入源头(JSON、DB、UI)到中间计算再到输出,全程守住 m 后缀和无损转换路径。其他地方,该用 double 还用 double。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c#

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
C语言变量命名
C语言变量命名

c语言变量名规则是:1、变量名以英文字母开头;2、变量名中的字母是区分大小写的;3、变量名不能是关键字;4、变量名中不能包含空格、标点符号和类型说明符。php中文网还提供c语言变量的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

3709

3

c语言入门自学零基础
c语言入门自学零基础

C语言是当代人学习及生活中的必备基础知识,应用十分广泛,本专题为大家c语言入门自学零基础的相关文章,以及相关课程,感兴趣的朋友千万不要错过了。

2023.07.25

2468

9

c语言运算符的优先级顺序
c语言运算符的优先级顺序

c语言运算符的优先级顺序是括号运算符 > 一元运算符 > 算术运算符 > 移位运算符 > 关系运算符 > 位运算符 > 逻辑运算符 > 赋值运算符 > 逗号运算符。本专题为大家提供c语言运算符相关的各种文章、以及下载和课程。

2023.08.02

1400

5

c语言数据结构
c语言数据结构

数据结构是指将数据按照一定的方式组织和存储的方法。它是计算机科学中的重要概念,用来描述和解决实际问题中的数据组织和处理问题。数据结构可以分为线性结构和非线性结构。线性结构包括数组、链表、堆栈和队列等,而非线性结构包括树和图等。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.09

1358

4

c语言random函数用法
c语言random函数用法

c语言random函数用法:1、random.random,随机生成(0,1)之间的浮点数;2、random.randint,随机生成在范围之内的整数,两个参数分别表示上限和下限;3、random.randrange,在指定范围内,按指定基数递增的集合中获得一个随机数;4、random.choice,从序列中随机抽选一个数;5、random.shuffle,随机排序。

2023.09.05

1436

5

c语言const用法
c语言const用法

const是关键字,可以用于声明常量、函数参数中的const修饰符、const修饰函数返回值、const修饰指针。详细介绍:1、声明常量,const关键字可用于声明常量,常量的值在程序运行期间不可修改,常量可以是基本数据类型,如整数、浮点数、字符等,也可是自定义的数据类型;2、函数参数中的const修饰符,const关键字可用于函数的参数中,表示该参数在函数内部不可修改等等。

2023.09.20

2398

7

c语言get函数的用法
c语言get函数的用法

get函数是一个用于从输入流中获取字符的函数。可以从键盘、文件或其他输入设备中读取字符,并将其存储在指定的变量中。本文介绍了get函数的用法以及一些相关的注意事项。希望这篇文章能够帮助你更好地理解和使用get函数 。

2023.09.20

3980

8

c数组初始化的方法
c数组初始化的方法

c语言数组初始化的方法有直接赋值法、不完全初始化法、省略数组长度法和二维数组初始化法。详细介绍:1、直接赋值法,这种方法可以直接将数组的值进行初始化;2、不完全初始化法,。这种方法可以在一定程度上节省内存空间;3、省略数组长度法,这种方法可以让编译器自动计算数组的长度;4、二维数组初始化法等等。

2023.09.22

18895

6

c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

2023.09.22

549

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习