188******04
deepin
2017-12-02 22:14 iminto 发表于 2017-12-2 12:43
你使用了浮点数参与运算,就得按浮点数标准来.
你就不该用浮点数参与运算。做计算器要开发自己的数据类型。(要是以后算复数,你也用浮点数解决?)
Reply Like 0 View the author
iminto 发表于 2017-12-2 12:43
你使用了浮点数参与运算,就得按浮点数标准来.
https://bbs.deepin.org/post/149404
因为深度在连续输入的情况下,拿上一个计算结果的用来显示的损失精度后的数字去乘以乘数,而不是拿内部带 ...
https://bbs.deepin.org/post/149404
首先,无理取闹不是我说的,欢迎讨论问题。
首先这个问题还是源自算法和浮点数精度,实际上这个问题我初 ...



https://bbs.deepin.org/post/149404
是1024/888的结果1.153153153。然后在结果上直接乘888.直接就回去1024了。
直接手输入的1.153153153 x 8 ...
https://bbs.deepin.org/post/149404
这不应该归结为精度的问题,应该归结为程序员的计算逻辑的问题,开发者没有把计算结果参与到下一次的运算而 ...
https://bbs.deepin.org/post/149404
显示的文本,就是损失了精度的文本。


Popular Ranking
ChangePopular Events
More
自己瞅瞅吧。
这个错误,苹果也犯过。右边的是Gnome自带的的有经验的人开发的计算器
整个过程是连续输入 不是复制粘贴的结果计算的。
这样会导致小数计算累加后多次出现误差叠加。
计算器就是得做好精度处理。
日期:2017-12-11
今天官方推送更新修复了,赞一个~