浮點數為什麼會有誤差

來源:生活大全幫 2.56W

浮點數為什麼會有誤差

浮點數是屬於有理數中某特定子集的數的數字表示,在計算機中用以近似表示任意某個實數,具體的説,這個實數由一個整數或定點數(即尾數)乘以某個基數(計算機中通常是2)的整數次冪得到,這種表示方法類似於基數為10的科學計數法,造成浮點數誤差的原因:其根本原因是計算機所使用二進制01代碼無法準確表示某些帶小數位的十進制數據,所以會讓浮點數有所差別。

熱門標籤