浮点计算

只看该作者 · 2016-5-9 17:54

用stm8做浮点计算如下：
double tmp = 0；
tmp = 1.0/10.0；
预算结果为1.0，为何？求解，怎么解决？

只看该作者 · 2016-5-9 17:56

10/100.....

只看该作者 · 2016-5-9 18:04

jrcsh 发表于 2016-5-9 17:56
10/100.....

感谢回复。
什么意思？如果用10/100运算的话结果也是1，如果写(double)10 / (double)(100)结果仍然是1.0

只看该作者 · 2016-5-9 18:10

难道还有什么寄存器要配置吗？求助

只看该作者 · 2016-5-10 08:23

我就想实现的东西如下：
由A=0，B=11，C在A和B之间，我要tmp=(C-A)/(B-A),可以用其他方法实现吗

只看该作者 · 2016-5-10 08:48

Fcg_xx1989 发表于 2016-5-10 08:23
我就想实现的东西如下：
由A=0，B=11，C在A和B之间，我要tmp=(C-A)/(B-A),可以用其他方法实现吗 ...

既然是stm8，就不要用浮点了，把所有参与运算的数放大成整数来计算

只看该作者 · 2016-5-10 09:17

popeye021 发表于 2016-5-10 08:48
既然是stm8，就不要用浮点了，把所有参与运算的数放大成整数来计算

多谢回复：
问题找到了，我把参与运算的数定义为了double，所以放大了也没用，现在改为整型，放大后就好了，多谢