双精度小数位
问题:
尽管文档表明双精度值有精度为 15 位小数,内部值通常表现出更高的精度。为什么会出现这种差异?
答案:
IEEE 双精度数有 53 个有效位,提供大约 15.95 位十进制精度(基于公式 log10(253))。该理论精度略大于 DBL_DIG 常量指示的 15 位十进制数字。额外的精度由额外的有效位决定。
nextafter() 函数演示给定双精度的真实精度。通过计算给定值最接近的可表示数字,可以发现双精度值通常有 16 位有效数字。
下面的程序说明了这一点:
#include <cstdio> #include <cfloat> #include <cmath> int main() { double x = 1.0/7.0; printf("FLT_RADIX = %d\n", FLT_RADIX); printf("DBL_DIG = %d\n", DBL_DIG); printf("DBL_MANT_DIG = %d\n", DBL_MANT_DIG); printf("%.17g\n%.17g\n%.17g\n", nextafter(x, 0.0), x, nextafter(x, 1.0)); }
输出通常显示: :
以上是为什么双精度数看起来比小数点后 15 位更精确?的详细内容。更多信息请关注PHP中文网其他相关文章!