浮点数运算
534字约2分钟
2024-08-09
浮点数运算误差
浮点数运算和整数运算相比,只能进行加减乘除这些数值计算,不能做位运算和移位运算
在计算机中,浮点数虽然表示的范围大,但是,浮点数有个非常重要的特点,就是浮点数常常无法精确表示
浮点数 0.1
在计算机中就无法精确表示,因为十进制的 0.1
换算成二进制是一个无限循环小数,很显然,无论使用 float
还是 double
,都只能存储一个 0.1
的近似值。但是,0.5
这个浮点数又可以精确地表示
public static void main(String[] args) {
double x = 1.0 / 10;
double y = 1 - 9.0/10;
System.out.println(x); // 0.1
System.out.println(y); // 0.09999999999999998
}
由于浮点数存在运算误差,所以比较两个浮点数是否相等常常会出现错误的结果。正确的比较方法是判断两个浮点数之差的绝对值是否小于一个很小的数
// 比较x和y是否相等,先计算其差的绝对值:
double r = Math.abs(x - y);
// 再判断绝对值是否足够小:
if (r < 0.00001) {
// 可以认为相等
} else {
// 不相等
}
类型提升
如果参与运算的两个数其中一个是整型,那么整型可以自动提升到浮点型
public static void main(String[] args) {
int n = 7;
double a = 1.5 + 10.5 / n; // 3.0
System.out.println(a);
}
溢出
整数运算在除数为 0
时会报错,而浮点数运算在除数为 0
时,不会报错,但会返回几个特殊值
NaN
表示Not a Number
Infinity
表示无穷大-Infinity
表示负无穷大
double d1 = 0.0 / 0; // NaN
double d2 = 1.0 / 0; // Infinity
double d3 = -1.0 / 0; // -Infinity
强制转型
int n1 = (int) 12.3; // 12
int n2 = (int) 12.7; // 12
int n2 = (int) -12.7; // -12
int n3 = (int) (12.7 + 0.5); // 13
int n4 = (int) 1.2e20; // 2147483647
四舍五入
如果要进行四舍五入,可以对浮点数加上 0.5
再强制转型
public static void main(String[] args) {
double d = 2.6;
int n = (int) (d + 0.5);
}