溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

BigDecimal遇到的坑有哪些

發(fā)布時間:2021-10-21 16:06:39 來源:億速云 閱讀:148 作者:iii 欄目:web開發(fā)

這篇文章主要介紹“BigDecimal遇到的坑有哪些”,在日常操作中,相信很多人在BigDecimal遇到的坑有哪些問題上存在疑惑,小編查閱了各式資料,整理出簡單好用的操作方法,希望對大家解答”BigDecimal遇到的坑有哪些”的疑惑有所幫助!接下來,請跟著小編一起來學習吧!

避免用Double來進行運算

使用Double來計算,我們以為的算術(shù)運算和計算機計算的并不完全一直,這是因為計算機是以二進制存儲數(shù)值的,我們輸入的十進制數(shù)值都會轉(zhuǎn)換成二進制進行計算,十進制轉(zhuǎn)二進制再轉(zhuǎn)換成十進制就不是原來那個十進制了,再也不是曾經(jīng)那個少年了。舉個例子:十進制的0.1轉(zhuǎn)換成二進制是0.0  0011 0011  0011...(無數(shù)個0011),再轉(zhuǎn)換成十進制就是0.1000000000000000055511151231,看到了吧,沒有騙你的。

計算機無法精確地表達浮點數(shù),這是不可避免的,這是為什么浮點數(shù)計算后精度損失的原因。

System.out.println(0.1+0.2); System.out.println(1.0-0.8); System.out.println(4.015*100); System.out.println(123.3/100);

BigDecimal遇到的坑有哪些

通過簡單的例子,我們發(fā)現(xiàn)精度損失并不是很大,但是這并不代表我們可以使用,特別是電商類系統(tǒng)中,每天少說幾百萬的單量,每筆訂單哪怕少計算一分錢,算下來也是一筆不小的金額,所以說,這不是個小事情,然后很多人就說,金額計算啊,你用BigDecimal啊,對的,這個沒毛病,但是用了BigDecimal就完事大吉了嗎?當問出這句話的時候,就說明這其中必有蹊蹺。

BigDecimal你遇見過哪些坑?

還是通過一個簡單的例子,計算上邊例子中的運算,來看一下結(jié)果:

System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2))); System.out.println(new BigDecimal(1.0).subtract(new BigDecimal(0.8))); System.out.println(new BigDecimal(4.015).multiply(new BigDecimal(100))); System.out.println(new BigDecimal(123.3).divide(new BigDecimal(100)));

BigDecimal遇到的坑有哪些

我們發(fā)現(xiàn)使用了BigDecimal之后計算結(jié)果還是不精確,這里就要記住BigDecimal的第一個坑了:

BigDecimal來表示和計算浮點數(shù)的時候,要使用String的構(gòu)造方法來初始化BigDecimal。

小的改進一下再來看看結(jié)果:

System.out.println(new BigDecimal("0.1").add(new BigDecimal("0.2"))); System.out.println(new BigDecimal("1.0").subtract(new BigDecimal("0.8"))); System.out.println(new BigDecimal("4.015").multiply(new BigDecimal("100"))); System.out.println(new BigDecimal("123.3").divide(new BigDecimal("100")));

BigDecimal遇到的坑有哪些

那么接下來一個問題,使用了BigDecimal就萬事大吉了嗎?并不是的!

接下來我們來看一下BigDecimal的源碼,這里面有一個地方需要注意,先看圖:

BigDecimal遇到的坑有哪些

注意看這兩個屬性,scale表示小數(shù)點右邊幾位,precision表示精度,就是我們常說的有效長度。

前邊我們已經(jīng)知道,BigDecimal必須傳入字符串類型數(shù)值,那么如果我們現(xiàn)在是一個Double類型數(shù)值,該如何操作呢?通過一個簡單的測試我們來看一下:

 private static void testScale() {      BigDecimal bigDecimal1 = new BigDecimal(Double.toString(100));      BigDecimal bigDecimal2 = new BigDecimal(String.valueOf(100d));      BigDecimal bigDecimal3 = BigDecimal.valueOf(100d);      BigDecimal bigDecimal4 = new BigDecimal("100");      BigDecimal bigDecimal5 = new BigDecimal(String.valueOf(100));       print(bigDecimal1);      print(bigDecimal2);      print(bigDecimal3);      print(bigDecimal4);      print(bigDecimal5);      }  private static void print(BigDecimal bigDecimal) {         System.out.println(String.format("scale %s precision %s result %s", bigDecimal.scale(), bigDecimal.precision(), bigDecimal.multiply(new BigDecimal("1.001")))); }

run一下我們發(fā)現(xiàn),以上前三種方式是將double轉(zhuǎn)換成BigDecimal之后,得到的BigDecimal的scale都是1,precision都是4,后兩種方式的toString方法得到的scale都是0,precision都是3,與1.001進行乘運算后,我們發(fā)現(xiàn),scale是兩個數(shù)的scale相加的結(jié)果。

BigDecimal遇到的坑有哪些

我們在處理浮點數(shù)的字符串的時候,應該顯式的方式通過格式化表達式或者格式化工具來明確小數(shù)位數(shù)和舍入方式。

浮點數(shù)的舍入和格式化該如何選擇?

我們首先來看看使用String.format的格式化舍入,會有什么結(jié)果,我們知道浮點數(shù)有double和float兩種,下邊我們就用這兩種來舉例子:

double num1 = 3.35; float num2 = 3.35f; System.out.println(String.format("%.1f", num1)); System.out.println(String.format("%.1f", num2));

BigDecimal遇到的坑有哪些

得到的結(jié)果似乎與我們的預期有出入,其實這個問題也很好解釋,double和float的精度是不同的,double的3.35相當于3.350000000000000088817841970012523233890533447265625,而float的3.35相當于3.349999904632568359375,String.format才有的又是四舍五入的方式舍入,所以精度問題和舍入方式就導致了運算結(jié)果與我們預期不同。

Formatter類中默認使用的是HALF_UP的舍入方式,如果我們需要使用其他的舍入方式來格式化,可以手動設(shè)置。

到這里我們就知道通過String.format的方式來格式化這條路坑有點多,所以,「浮點數(shù)的字符串格式化還得要使用BigDecimal來進行」。

來,上代碼,測試一下究竟是不是那么回事:

BigDecimal num1 = new BigDecimal("3.35"); //小數(shù)點后1位,向下舍入 BigDecimal num2 = num1.setScale(1, BigDecimal.ROUND_DOWN); System.out.println(num2); //小數(shù)點后1位,四舍五入 BigDecimal num3 = num1.setScale(1, BigDecimal.ROUND_HALF_UP); System.out.println(num3); 輸入結(jié)果: 3.3 3.4

這次得到的結(jié)果與我們預期一致。

BigDecimal不能使用equals方法比較?

我們都知道,包裝類的比較要使用equals,而不能使用==,那么這一條在Bigdecimal中也適用嗎?數(shù)據(jù)說話,簡單的一個測試來說明:

System.out.println(new BigDecimal("1").equals(new BigDecimal("1.0"))) 結(jié)果:false

按照我們的理解1和1.0是相等的,也應該是相等的,但是Bigdecimal的equals在比較中不只是比較了value,還比較了scale,我們前邊說了scale是小數(shù)點后的位數(shù),明顯兩個值的小數(shù)點后位數(shù)不一樣,所以結(jié)果為false。

實際的使用中,我們常常是只希望比較兩個BigDecimal的value,這里就要注意,要使用compareTo方法:

System.out.println(new BigDecimal("1").compareTo(new BigDecimal("1.0"))) 結(jié)果:true

到此,關(guān)于“BigDecimal遇到的坑有哪些”的學習就結(jié)束了,希望能夠解決大家的疑惑。理論與實踐的搭配能更好的幫助大家學習,快去試試吧!若想繼續(xù)學習更多相關(guān)知識,請繼續(xù)關(guān)注億速云網(wǎng)站,小編會繼續(xù)努力為大家?guī)砀鄬嵱玫奈恼拢?/p>

向AI問一下細節(jié)

免責聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI