假设我的机器中有一个单精度浮点格式变量,我想给它分配给定操作的结果。来自维基百科:
IEEE 754标准指定二进制32具有:
我不清楚最后一个要求(e-6的精度)是如何得出的。一般来说,给定一个数据类型如上面的flat32
或flat64
,如何在基数10中找到精度限制?
基本数学是这样的:你搜索n
,这样
2^24 = 10^n
你可以通过取对数来解决这个问题:
24*log(2)=n*log(10)
以10为基数,这是关于
7.22... = n
精度约为7位(十进制)。
请注意,digitus在拉丁语中的意思是手指,所以数字自然应该是十进制的