VB.net 2010 视频教程 VB.net 2010 视频教程 python基础视频教程
SQL Server 2008 视频教程 c#入门经典教程 Visual Basic从门到精通视频教程
当前位置:
首页 > 编程开发 > Java教程 >
  • Rounding necessary错误解决Java的BigDecimal除法的坑

出现Rounding necessary错误原因是使用了 BigDecimal 的 setScale 方法导致。

错误原因:setScale方法保留小数位数小于实际位数并且未指定roundingMode参数即报错。如下代码:

        BigDecimal rs = new BigDecimal("27.333");
        rs.setScale(2);

上述代码实际数值是27.333是3位小数,而使用setScale方法保留2位小数时会报错。

 

解决方法:

【一、指定setScale的第二个参数roundingMode(推荐)】

如下所示:

BigDecimal rs = new BigDecimal("27.333");
rs.setScale(2,2);

setScale的第二个参数为roundingMode,此值是一个常量,具体取值及含义可通过JDK文档查得

 

【二、保留小数位数大于/等于实际小数位数】

如下所示:

 BigDecimal rs = new BigDecimal("27.333");
 rs.setScale(4);

保证保留的小数位数大于等于实际小数位数也可以,但很多时候我们不知道实际小数位数是多少,所以建议使用第一种方式解决。

 

 

扩展知识:

使用BigDecimal的divide(除法)方法时也应指定第二个参数roundingMode,否则在遇到无限循环/不循环小数时也会报错,错误为:

Non-terminating decimal expansion; no exact representable decimal result.

 

divide的重载方法:

  divide(BigDecimal divisor)

  divide(BigDecimal divisor, int roundingMode)

  divide(BigDecimal divisor, int scale, int roundingMode)

 

当传递1个参数时遇到无限循环/不循环小数时会报错

当传递2个参数时默认保留小数位数为参与运算数字的最大小数位,特别注意:整数/整数,即使能除尽得到的也是四舍五入后的整数

当传递3个参数时默认第二个参数为小数位数,第三个参数为取舍方式

 

总结:

使用divide和setScale要注意循环小数需要指定devide的第2、3参数,遇到小数位数比想保留小数位数大时需要指定setScale的第2参数

 

为保险起见建议使用divide时传递3个参数!!!

 

致读者:感谢你阅读本文,请随手点击右下角的推荐或分享,谢谢!

出处:
https://www.cnblogs.com/yzeng/p/13266329.html

相关教程