浮點數(shù)計算中的精度問題
猜測下面的代碼的輸出是什么















在VS2005下測試,結果是
sum=0.000000
而如果調換一下連加計算式中z和y的位置則結果為
sum=10.000000
可以得出兩點:
1 浮點數(shù)預算會有精度損失,大數(shù)會掩蓋小數(shù),所以當進行多個浮點數(shù)求和時,應該從小到大相加。
2 多個數(shù)連加,操作順序是從左至右進行的。
猜測下面的代碼的輸出是什么
只有注冊用戶登錄后才能發(fā)表評論。 | ||
【推薦】100%開源!大型工業(yè)跨平臺軟件C++源碼提供,建模,組態(tài)!
![]() |
||
網(wǎng)站導航:
博客園
IT新聞
BlogJava
博問
Chat2DB
管理
|
||
|