程序员最近都爱上了这个网站  程序员们快来瞅瞅吧!  it98k网:it98k.com

本站消息

站长简介/公众号

  出租广告位,需要合作请联系站长


+关注
已关注

分类  

暂无分类

标签  

暂无标签

日期归档  

暂无数据

仅在小数重复时设置 BigDecimal 精度

发布于2021-07-22 08:26     阅读(1139)     评论(0)     点赞(22)     收藏(4)


我知道我可以使用BigDecimal.divide()方法来设置固定精度:

BigDecimal a1 = new BigDecimal(1);
BigDecimal a2 = new BigDecimal(3);
BigDecimal division = a1.divide(a2,5,1); //equals 0.33333

但如果除法结果是准确的:

BigDecimal a1 = new BigDecimal(1);
BigDecimal a2 = new BigDecimal(4);
BigDecimal division = a1.divide(a2,5,1); //equals 0.25000

如何设置除法结果,以便如果除法以精确结果结束,它只会给出 0.25 而不是 0.25000 的输出?

我还尝试通过以下方式不指定精度:

BigDecimal division = a1.divide(a2);

它在执行0.25成功给出结果1/4,但是当它执行除法时,1/32/3导致运行时ArithmeticException

a1a2从用户输入实例化。

有没有办法解决这个问题?


解决方案


你得到的ArithmeticException,如描述的BigDecimal.divide(BigDecimal)- “如果准确的商值没有十进制扩展”因为正确表示结果1/3将采取无限怀念。通过使用BigDecimal.divide(BigDecimal,int,RoundingMode)您明确设置您可以容忍的精度,这意味着任何除法都可以在内存中近似。

为了保持一致性,此版本的除法始终将比例设置为您指定的值,即使该值可以以较低的精度准确表示。如果没有,您将很难推断使用该结果进行的任何未来计算的精确度。

减少您的精确使用.stripTrailingZeros()这有效地将规模缩小到尽可能小。尽可能在流程后期(即在打印之前)执行此操作,以保持我上面提到的一致性。

.toPlainString()如果您想很好地显示这些值,您可能还想要,因为.stripTrailingZeros()它本身会显示1001E+2.



所属网站分类: 技术文章 > 问答

作者:黑洞官方问答小能手

链接:http://www.javaheidong.com/blog/article/248450/8dc2ad499c60311a3f39/

来源:java黑洞网

任何形式的转载都请注明出处,如有侵权 一经发现 必将追究其法律责任

22 0
收藏该文
已收藏

评论内容:(最多支持255个字符)