提问者:小点点

计算浮点型表示法的精度极限顺序[重复]


假设我的机器中有一个单精度浮点格式变量,我想给它分配给定操作的结果。来自维基百科:

IEEE 754标准指定二进制32具有:

  • 符号位:1位

我不清楚最后一个要求(e-6的精度)是如何得出的。一般来说,给定一个数据类型如上面的flat32flat64,如何在基数10中找到精度限制?


共1个答案

匿名用户

基本数学是这样的:你搜索n,这样

2^24 = 10^n

你可以通过取对数来解决这个问题:

24*log(2)=n*log(10)

以10为基数,这是关于

7.22... = n

精度约为7位(十进制)。

请注意,digitus在拉丁语中的意思是手指,所以数字自然应该是十进制的