溫馨提示×

溫馨提示×

您好，登錄后才能下訂單哦！

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

淺談sqlserver下float的不確定性

發(fā)布時間：2020-09-04 04:56:52 來源：腳本之家 閱讀：129 作者：神崎橙 欄目：數(shù)據(jù)庫

很多時候，大家都知道，浮點型這個東西，本身存儲就是一個不確定的數(shù)值，你永遠無法知道，它是 0 = 0.00000000000000123 還是 0 = 0.00000000000999這樣的東西。也許一開始使用的時候沒有問題，但是有時候做統(tǒng)計的時候，就會看出端倪

簡單的舉個例子，就知道統(tǒng)計的時候，有可能出現(xiàn)意外的效果，導致可能需要存儲過程或者接收程序的代碼左額外的取舍數(shù)位的處理，所以在此其實我是推薦使用Numeric來替代float進行一個替代使用，避免一個sum ，然后明明明細看每一條數(shù)據(jù)都是正常的2,3位小數(shù)，一匯總就變成了8,9位的樣子

CREATE TABLE #T (ID INT IDENTITY,Va FLOAT)
CREATE TABLE #T1 (ID INT IDENTITY,Va NUMERIC(15,9))
--分開執(zhí)行-------------------------------------------------
INSERT INTO #T
    ( Va )
VALUES ( 0.60000000)
INSERT INTO #T1
    ( Va )
VALUES ( 0.60000000)
GO 100

SELECT SUM(Va) FROM #T
SELECT SUM(Va) FROM #T1

----------------------
60.0000000000001
(1 行受影響)

---------------------------------------
60.000000000
(1 行受影響)

總結

以上就是本文關于淺談sqlserver下float的不確定性的全部內容，希望對大家有所幫助。感興趣的朋友可以參閱本站：簡述Redis和MySQL的區(qū)別、ORACLE SQL語句優(yōu)化技術要點解析、MYSQL子查詢和嵌套查詢優(yōu)化實例解析等，有什么問題可以隨時留言，小編會及時回復大家。感謝各位對億速云的支持！

向AI問一下細節(jié)

免責聲明：本站發(fā)布的內容（圖片、視頻和文字）以原創(chuàng)、轉載和分享為主，文章觀點不代表本網站立場，如果涉及侵權請聯(lián)系站長郵箱：is@yisu.com進行舉報，并提供相關證據(jù)，一經查實，將立刻刪除涉嫌侵權內容。

AI
助
手