发新帖我要提问
返回列表
打印
[STM32F4]

KEIL下整数和浮点的转换问题

[复制链接]
1293|5
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
kgq398|  楼主 | 2015-10-19 11:37 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
keil, tmp, 函数, win8, XP系统
实验目的：将整数1234，转换为1.234
使用环境：KEIL4.7
试验函数：采用如下函数
float READ_EEPROM_float11()
{
        int tmp;
        float dat;

        tmp = 1234;
        dat=(float)((float)tmp/1000);
        return (float)dat;
}
试验结果:
1、在32位XP系统下，得出dat=1.234
2、在64位WIN8下得出dat=1.2399997


请问，如何在64位XP下得到1.234？

使用特权

评论回复 赏
沙发
kseeker| | 2015-10-19 11:44 | 只看该作者
1.234无法用float准确表示。你看到的区别只是显示前的格式化过程造成的区别。

使用特权

评论回复 赏
板凳
styleno1| | 2015-10-19 12:04 | 只看该作者
精确计算使用整型为妥

使用特权

评论回复 赏
地板
mmuuss586| | 2015-10-19 13:46 | 只看该作者
这个没办法的；
改成DOUBLE也是一样；

使用特权

评论回复 赏
5楼
kgq398|  楼主 | 2015-10-19 17:21 | 只看该作者
那是不是就没办法解决呢，有人说使用共用体，但是我测试还不行，难道是方法问题吗

使用特权

评论回复 赏
6楼
拉克丝| | 2015-10-20 16:08 | 只看该作者
还不知道32位和64位系统有这么大的影响，哪个应该是比较准确的呢

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

kgq398

1

主题

3

帖子

1

粉丝