duanyao
deepin
2017-12-02 08:21 无限精度计算吗?
Reply Like 0 View the author
https://bbs.deepin.org/post/149404
这是错误还是无理取闹?
https://bbs.deepin.org/post/149404
这个问题,首先有个精度问题,乘除法都有这个问题,但除法更很多时候除不尽,更容易遇到精度问题。
1024÷ ...
https://bbs.deepin.org/post/149404
这不是错误,就是符合IEEE 754 标准的,程序员都知道
https://baike.baidu.com/item/IEEE%20754/3869922?fr=a ...
https://bbs.deepin.org/post/149404
这是错误还是无理取闹?
https://bbs.deepin.org/post/149404
你使用了浮点数参与运算,就得按浮点数标准来.

老实说,我没看懂这个问题!https://bbs.deepin.org/post/149404
老实说,我没看懂这个问题!
Popular Ranking
ChangePopular Events
More
自己瞅瞅吧。
这个错误,苹果也犯过。右边的是Gnome自带的的有经验的人开发的计算器
整个过程是连续输入 不是复制粘贴的结果计算的。
这样会导致小数计算累加后多次出现误差叠加。
计算器就是得做好精度处理。
日期:2017-12-11
今天官方推送更新修复了,赞一个~