摘要 探讨 的计算精度问题。
计算机的错误计算(五十五)与(七十八)分别列出了 IEEE 754-2019 中的一些函数与运算。下面再截图给出其另外3个运算。
例1. 已知 x=-0.9999999999966 . 计算
不妨在Python下计算,则有:
若使用Java函数计算:
import java.lang.StrictMath;
public class Log1p {
public static void main(String[] args) {
double x = -0.9999999999966;
double result = StrictMath.log1p(x);
System.out.println(result);
}
}
则运行后输出相同的结果:-26.40726127542442 .
然而,正确值是 -0.2640724568430643e2(ISRealsoft 提供)。这样,二者均有10位错误数字,错误率为 10/16 = 62.5% .