发新帖我要提问
返回列表
打印
[应用相关]

如何在64位XP下得到1.234

[复制链接]
721|8
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
dingy|  楼主 | 2018-8-27 19:53 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
tmp, 函数, win8, XP系统, win

实验目的：将整数1234，转换为1.234
使用环境：KEIL4.7
试验函数：采用如下函数
float READ_EEPROM_float11()
{
        int tmp;
        float dat;

        tmp = 1234;
        dat=(float)((float)tmp/1000);
        return (float)dat;
}
试验结果:
1、在32位XP系统下，得出dat=1.234
2、在64位WIN8下得出dat=1.2399997


请问，如何在64位XP下得到1.234

使用特权

评论回复 赏
沙发
pengf| | 2018-8-27 19:54 | 只看该作者
1.234无法用float准确表示。

使用特权

评论回复 赏
板凳
renyaq| | 2018-8-27 19:55 | 只看该作者
你看到的区别只是显示前的格式化过程造成的区别。

使用特权

评论回复 赏
地板
kangzj| | 2018-8-27 19:57 | 只看该作者


精确计算使用整型为妥

使用特权

评论回复 赏
5楼
zwll| | 2018-8-27 20:00 | 只看该作者


这个没办法的；
改成DOUBLE也是一样；

使用特权

评论回复 赏
6楼
dingy|  楼主 | 2018-8-27 20:02 | 只看该作者
那是不是就没办法解决呢，有人说使用共用体，但是我测试还不行，难道是方法问题吗

使用特权

评论回复 赏
7楼
pengf| | 2018-8-27 20:03 | 只看该作者


还不知道32位和64位系统有这么大的影响，哪个应该是比较准确的呢

使用特权

评论回复 赏
8楼
houcs| | 2018-8-27 20:05 | 只看该作者
转换为数组中的值，然后加个小数点位，这样处理比较快。

使用特权

评论回复 赏
9楼
dingy|  楼主 | 2018-8-27 20:08 | 只看该作者

嗯，我再好好缕一缕吧，有了好消息及时通知大家，结贴喽

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

dingy

745

主题

10920

帖子

6

粉丝