KEIL下整数和浮点的转换问题

发表于 2015-10-19 11:37

实验目的：将整数1234，转换为1.234
使用环境：KEIL4.7
试验函数：采用如下函数
float READ_EEPROM_float11()
{
int tmp;
float dat;

tmp = 1234;
dat=(float)((float)tmp/1000);
return (float)dat;
}
试验结果:
1、在32位XP系统下，得出dat=1.234
2、在64位WIN8下得出dat=1.2399997

请问，如何在64位XP下得到1.234？

发表于 2015-10-19 11:44

1.234无法用float准确表示。你看到的区别只是显示前的格式化过程造成的区别。

发表于 2015-10-19 12:04

精确计算使用整型为妥

发表于 2015-10-19 13:46

这个没办法的；
改成DOUBLE也是一样；

发表于 2015-10-19 17:21

那是不是就没办法解决呢，有人说使用共用体，但是我测试还不行，难道是方法问题吗

发表于 2015-10-20 16:08

还不知道32位和64位系统有这么大的影响，哪个应该是比较准确的呢

[STM32F4] KEIL下整数和浮点的转换问题

相关帖子

浏览过的版块

技术新星奖章

晶莹之水滴

常驻人口

技术高手奖章

技术领袖奖章

十世金身

坚毅之洋流

荣誉元老奖章