溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

如何解決c#之浮點(diǎn)數(shù)計(jì)算問題

發(fā)布時(shí)間:2020-10-10 16:18:08 來源:億速云 閱讀:175 作者:小新 欄目:編程語言

如何解決c#之浮點(diǎn)數(shù)計(jì)算問題?這個(gè)問題可能是我們?nèi)粘W(xué)習(xí)或工作經(jīng)常見到的。希望通過這個(gè)問題能讓你收獲頗深。下面是小編給大家?guī)淼膮⒖純?nèi)容,讓我們一起來看看吧!

 給大家看個(gè)計(jì)算題,看看大家的算術(shù)能力。

0.1 +0.1 +0.1 - 0.3 等于幾?

大家可能會(huì)說這么簡單的問題,是不是看不起我?肯定等于0啊。

如果大家直接算的是沒有問題的,但是如果用計(jì)算機(jī)呢?

見證奇跡的時(shí)刻到了,看代碼:

void Main()
{    var f = 0.1 +0.1 +0.1 -0.3;
    Console.WriteLine("f=={0}",f);
}

這是因?yàn)橛?jì)算機(jī)的精度的問題,在計(jì)算機(jī)的內(nèi)部存儲(chǔ)和運(yùn)算的精度缺失等問題,我解釋的可能不太明白,不過,大家可以用下面的方案進(jìn)行解決:

void Main()
{    //var f = 0.1 +0.1 +0.1 -0.3;    //Console.WriteLine("f=={0}",f);
    
    var f1 = new Decimal(0.1) + new Decimal(0.1) + new Decimal(0.1) - new Decimal(0.3);
    Console.WriteLine("f1 == {0}",f1);
}

這樣就是正常的運(yùn)算結(jié)果了。

感謝各位的閱讀!看完上述內(nèi)容,你們對如何解決c#之浮點(diǎn)數(shù)計(jì)算問題大概了解了嗎?希望文章內(nèi)容對大家有所幫助。如果想了解更多相關(guān)文章內(nèi)容,歡迎關(guān)注億速云行業(yè)資訊頻道。

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI