为什么在浮点文字末尾添加0会改变它的舍入方式（可能GCCbug）？

提问者：小点点

为什么在浮点文字末尾添加0会改变它的舍入方式（可能GCCbug）？

我在我的x86VM（32位）上发现以下程序：

#include <stdio.h>
void foo (long double x) {
    int y = x;
    printf("(int)%Lf = %d\n", x, y);
}
int main () {
    foo(.9999999999999999999728949456878623891498136799780L);
    foo(.999999999999999999972894945687862389149813679978L);
    return 0;
}

产生以下输出：

(int)1.000000 = 1
(int)1.000000 = 0

Ideone也会产生这种行为。

编译器正在做什么来允许这种情况发生？

我在追踪为什么以下程序没有像我预期的那样生成0时发现了这个常量（使用199s生成了我预期的0）：

int main () {
    long double x = .99999999999999999999L; /* 20 9's */
    int y = x;
    printf("%d\n", y);
    return 0;
}

当我试图计算结果从预期切换到意外的值时，我得到了这个问题所涉及的常数。

共3个答案

匿名用户

您的问题是您的平台上的long double没有足够的精度来存储精确的值0.99999999999999999999。这意味着它的值必须转换为可表示的值（此转换发生在您的程序翻译期间，而不是在运行时）。

这种转换可以生成最接近的可表示值，也可以生成下一个更大或更小的可表示值。选择是实现定义的，因此您的实现应该记录它正在使用的内容。看起来您的实现使用了x87样式的80bitlong double，并且四舍五入到最接近的值，导致值1.0存储在x中。

对于long double的假定格式（具有64个尾数位），小于1.0的最高可表示数是十六进制：

0x0.ffffffffffffffff

正好介于此值和下一个更高的可表示数（1.0）之间的数字是：

0x0.ffffffffffffffff8

你的超长常数0.9999999999999999999728949456878623891498136799780等于：

0x0.ffffffffffffffff7fffffffffffffffffffffffa1eb2f0b64cf31c113a8ec...

如果四舍五入到最接近的值，显然应该向下取整，但是您似乎已经达到了编译器使用的浮点表示的某种限制，或者四舍五入bug。

匿名用户

编译器使用二进制数。大多数编译器都做同样的事情。

根据Wolframalpha，二进制表示

0.99999999999999999999

看起来像这样：

0.11111111111111111111111111111111111111111111111111111111111111111101000011000110101111011110011011011011011110111011100101000101010111011100001011010001001110001101011001010000110000101001111011111001111110000101010111111110100110000010001001101011001101010110110010010101101111101001110001100111101100000000100110110001100110000011000100100011000011110100001000000100001000101000111011010111111101011010010000010110011111110100100110001011001110100011100001111101011110101001000000111110010000101101001001010110010011001110111111100111101111100000111010001101101011000100110001010010001000100010110000101110100101010101001010100010001001100111111111001001101100000000010010001011110100101011101001001101001111001001000101011101001100111101110111111001101110100111000001111101101101101101110100100111101000000000111101101101001000111101100010101110011101110001110010110110111101000011110110100011000110101100011111111110111000010010001111000000000101100101000100101110100001001101000010110101000100011100000110010001110101...

这是932位，这仍然不足以精确表示你的数字（见最后的圆点）。

这意味着只要您的底层平台使用以2为底来存储数字，您将无法准确存储0.99999999999999999999。

因为数字不能精确地存储，所以它会被向上或向下取整。20个9的结果是向上取整，19个9的结果是向下取整。

为了避免这个问题，你需要使用某种第三方数学/bignum库来代替双精度，该库使用十进制基数（即每个字节两个十进制数字或其他东西）在内部存储数字，或者使用分数（比率）代替浮点数。这将解决您的问题。

匿名用户

双精度值，当没有足够的精度来表示一个值时，向上或向下舍入到最接近的值。在您的实现中，它四舍五入为1。