又踩坑了!BigDecimal使用的五个坑!

大数据 数据分析
由于计算机的资源是有限的,所以是没办法用二进制精确的表示 0.1,只能用「近似值」来表示,就是在有限的精度情况下,最大化接近 0.1 的二进制数,于是就会造成精度缺失的情况。

前言

大家好,我是田螺。

在日常开发中,BigDecimal类被广泛用于精确的数值、金额的计算。但是在使用BigDecimal的过程中,存在以下这几个坑,大家要注意一下哈~~

1.浮点数初始化的坑

反例:

BigDecimal problematic = new BigDecimal(0.1);
System.out.println("Problematic: " + problematic.toString()); 
//输出 Problematic: 0.1000000000000000055511151231257827021181583404541015625

可以发现,直接使用new BigDecimal(double)构造方法可能会得到一个看起来相当奇怪的结果。这是因为double本身的精度问题会被带入BigDecimal中。为了避免这个问题,推荐使用String参数的构造方法或者使用BigDecimal.valueOf方法,例如new BigDecimal("0.1"),这样可以确保BigDecimal的精度。

由于计算机的资源是有限的,所以是没办法用二进制精确的表示 0.1,只能用「近似值」来表示,就是在有限的精度情况下,最大化接近 0.1 的二进制数,于是就会造成精度缺失的情况。

正例:

BigDecimal problematic1 =  BigDecimal.valueOf(0.1);
System.out.println("Problematic: " + problematic1.toString());

BigDecimal problematic2 =  new BigDecimal("0.1");
System.out.println("Problematic: " + problematic2.toString());
//输出
Problematic: 0.1
Problematic: 0.1

2. 比较数值时使用compareTo()方法而非equals()

BigDecimal bd1 = new BigDecimal("0.10");
BigDecimal bd2 = new BigDecimal("0.1");
System.out.println(bd1.equals(bd2)); // 输出: false
System.out.println(bd1.compareTo(bd2) == 0); // 输出: true

BigDecimal的equals方法不仅比较数值,还会比较对象的scale(小数点后的位数),如果只想比较数值,而不考虑scale,应该使用compareTo方法。

图片图片

3.做除法时,未指定精度可能异常

BigDecimal dividend = new BigDecimal("10");
BigDecimal divisor = new BigDecimal("3");
BigDecimal result = dividend.divide(divisor); // 未指定精度和舍入模式
System.out.println(result);
//输出
Exception in thread "main" java.lang.ArithmeticException: Non-terminating decimal expansion; no exact representable decimal result.
 at java.math.BigDecimal.divide(BigDecimal.java:1693)
 at com.example.demo.controller.Test.main(Test.java:26)

除法操作将10除以3,结果是无限循环小数3.3333...,但由于未指定精度和舍入模式,会抛出ArithmeticException异常。

官方有给出解释:

"If the quotient has a nonterminating decimal expansion and the operation is specified to return an exact result, an ArithmeticException is thrown. Otherwise, the exact result of the division is returned, as done for other operations."

要使用BigDecimal时,要记得指定精度,避免因为精度问题带来的损失。

4. BigDecimal转String,科学计数法展示问题

System.out.println( new BigDecimal("0.0000000000001").toString());
BigDecimal bigDecimal = new BigDecimal("1E+12");
System.out.println(bigDecimal.toString());
//输出 1E-13
//输出 1E+12

这是因为 toString() 某些场景下使用科学计数法展示。如果不想用任何计数法,可以使用 toPlainString()

System.out.println( new BigDecimal("0.0000000000001").toPlainString());
BigDecimal bigDecimal = new BigDecimal("1E+12");
System.out.println(bigDecimal.toPlainString());
//输出 
0.0000000000001
1000000000000

5. 注意使用setScale方法设置精度

BigDecimal number = new BigDecimal("123.4567");
BigDecimal roundedNumber = number.setScale(2, RoundingMode.HALF_UP);
//输出
123.46

因为BigDecimal的精度是无限的,因此一般在计算的时候,要注意设置精度几位。

并且,RoundingMode.HALF_UP 是一种舍入模式,用于四舍五入,即当数字的一部分被舍去时,如果剩余部分大于或等于0.5,则向上舍入。除了HALF_UP之外,还有几个常用的舍入模式:

  • UP:远离零方向舍入的舍入模式。总是在非零舍弃部分之前增加数字。
  • DOWN:接近零方向舍入的舍入模式。总是在非零舍弃部分之前减少数字。
  • CEILING:接近正无穷大的方向舍入的舍入模式。如果BigDecimal是正的,则舍入行为与UP相同;如果是负的,则舍入行为与DOWN相同。
  • FLOOR:接近负无穷大的方向舍入的舍入模式。如果BigDecimal是正的,则舍入行为与DOWN相同;如果是负的,则舍入行为与UP相同。
  • HALF_DOWN:向“最近邻居”舍入,除非两边距离相等,此时向下舍入。
  • HALF_EVEN:向“最近邻居”舍入,除非两边距离相等,此时向偶数舍入。这种模式也称为“银行家舍入法”,因为它减少了累计错误。

还有一个点,就是:使用setScale方法实际上会产生一个全新的BigDecimal实例,而不会更改原有对象。所以,当你用setScale调整了数字精度后,别忘了把新生成的对象赋值回原来的变量。

责任编辑:武晓燕 来源: 捡田螺的小男孩
相关推荐

2022-11-18 07:34:12

Docker项目目录

2024-02-04 08:26:38

线程池参数内存

2023-06-30 08:10:14

JavaBigDecimal

2023-03-06 07:50:19

内存回收Go

2022-12-23 08:37:16

BigDecimaljava

2024-03-11 18:17:18

Python字符串分隔符

2021-09-09 18:12:22

内存分段式网络

2024-05-06 00:00:00

缓存高并发数据

2017-07-17 15:46:20

Oracle并行机制

2020-09-29 07:57:48

设置HttpClientContent-Typ

2022-02-28 08:55:31

数据库MySQL索引

2015-03-24 16:29:55

默认线程池java

2023-02-20 08:11:04

2020-09-06 10:02:32

项目管理战略目标CIO

2018-12-18 14:13:30

SDKAndroid开发

2020-09-15 08:46:26

Kubernetes探针服务端

2022-04-19 11:48:54

开发npm踩坑

2023-01-18 23:20:25

编程开发

2021-07-28 05:01:29

Lombok前端测试

2021-09-03 11:15:18

场景sql配置
点赞
收藏

51CTO技术栈公众号