双精度:探索十进制表示精度
双精度是编程中常用的数据类型,提供大约 15 位小数的声称精度地方。然而,当处理以重复小数表示的值时,例如 1.0/7.0,就会出现异常。
为什么有 17 位小数?
双精度数内部有 53 位有效位,转换为大约 15.95 个十进制数字。虽然理论上这应该导致 16 位小数的表示,但实现会向下舍入到 15 位(由 DBL_DIG 表示)。
为了说明这一点,nextafter() 函数可以显示与给定值相邻的最接近的可表示数字。当应用于 1.0/7.0 (0.14285714285714285) 时,我们观察到 17 个显示的小数位。最后一位数字的变化表示表示的实际精度。
精度和机会
在 1.0/7.0 的情况下,最后显示的数字与数学值(5)。然而,对于其他重复小数(例如 1.0/3.0),最后一位数字可能不会对齐,这显示了精确小数表示的局限性。
以上是为什么双精度对某些重复小数显示 17 位小数?的详细内容。更多信息请关注PHP中文网其他相关文章!