打印

关于浮点运算的有趣问题

[复制链接]
1467|7
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
clz918|  楼主 | 2013-10-19 16:25 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
我在做UCGUI时遇到这样一个问题,
  void button_set_data_float(BUTTON_Handle button_in,float data_in)
{
unsigned long data1,data2;
float data3=0;
                 data3=4.2*100;
   
data1=data3;
data2=data1/100;
data1=data1-data2*100;
    itoa_1(data2,datax,10,data1,0);

    BUTTON_SetText(button_in,datax );
}

这样的函数运行后按键会显示4.2,这是对的。但如果修改一下:
  void button_set_data_float(BUTTON_Handle button_in,float data_in)
{
unsigned long data1,data2;
float data3=0;
data_in=4.2;              
  data3=data_in*100;
   
data1=data3;
data2=data1/100;
data1=data1-data2*100;
    itoa_1(data2,datax,10,data1,0);

    BUTTON_SetText(button_in,datax );
}
显示的居然是4.19.这是怎么回事,感觉data3=data_in*100;好像有什么问题,最头疼的是如果data_in设为其它的数如2.3,5.65之类的,显示都对,唯独data_in=4.2不行,这是怎么回事

沙发
clz918|  楼主 | 2013-10-19 16:53 | 只看该作者
4.18和0.05也不行,显示4.17和0.04

使用特权

评论回复
板凳
trumpxp| | 2013-10-19 19:54 | 只看该作者
不是很熟悉这一块   楼主   顶一个  先

使用特权

评论回复
地板
clz918|  楼主 | 2013-10-21 15:00 | 只看该作者
没人遇到过吗

使用特权

评论回复
5
airwill| | 2013-10-21 15:10 | 只看该作者
会不会是你的 itoa_1 函数的问题呢

使用特权

评论回复
6
clz918|  楼主 | 2013-10-21 16:47 | 只看该作者
airwill 发表于 2013-10-21 15:10
会不会是你的 itoa_1 函数的问题呢

不会的,
" data3=data_in*100;
   
data1=data3;
data2=data1/100;
data1=data1-data2*100;
    itoa_1(data2,datax,10,data1,0);"
写成data3=4.2*100;就对,我现在怀疑是否有4.2这个浮点数,是不是data_in赋值4.2后单元中的数是4.19XXX。


使用特权

评论回复
7
jjjkkk00| | 2013-10-21 18:54 | 只看该作者
你直接仿真看一下,单精度变量data3被赋值后的值是多少?
data_in=4.2; //data_in 是否是4.20000000?
以及data3=4.2*100;与data_in=4.2; data3=data_in*100;两种计算方式得到的结果是否完全相等?

以此来排查是不是浮点转换的问题?

我的猜测是1)data3=4.2*100;直接得到的是乘积的单精度数值。2)data_in=4.2;这里可能存在double到single的转换。这里可能会产生一个类似4.1999999999的值,造成后面的itoa_1()计算差异?

使用特权

评论回复
8
hkcj| | 2013-10-21 18:59 | 只看该作者
没有遇到过这一类的问题   楼主   帮你顶一个吧  看看别人的意见   应该有比较好的方法的

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

111

主题

336

帖子

3

粉丝