关于浮点运算的有趣问题

发表于 2013-10-19 16:25

我在做UCGUI时遇到这样一个问题，
  void button_set_data_float(BUTTON_Handle button_in,float data_in)
{
unsigned long data1,data2;
float data3=0;
               data3=4.2*100;

data1=data3;
data2=data1/100;
data1=data1-data2*100;
itoa_1(data2,datax,10,data1,0);

BUTTON_SetText(button_in,datax );
}

这样的函数运行后按键会显示4.2，这是对的。但如果修改一下：
  void button_set_data_float(BUTTON_Handle button_in,float data_in)
{
unsigned long data1,data2;
float data3=0;
data_in=4.2;
  data3=data_in*100;

data1=data3;
data2=data1/100;
data1=data1-data2*100;
itoa_1(data2,datax,10,data1,0);

BUTTON_SetText(button_in,datax );
}
显示的居然是4.19.这是怎么回事，感觉data3=data_in*100;好像有什么问题，最头疼的是如果data_in设为其它的数如2.3，5.65之类的，显示都对，唯独data_in=4.2不行，这是怎么回事

发表于 2013-10-19 16:53

4.18和0.05也不行，显示4.17和0.04

发表于 2013-10-19 19:54

不是很熟悉这一块楼主顶一个先

发表于 2013-10-21 15:00

没人遇到过吗

发表于 2013-10-21 15:10

会不会是你的 itoa_1 函数的问题呢

发表于 2013-10-21 16:47

airwill 发表于 2013-10-21 15:10
会不会是你的 itoa_1 函数的问题呢

不会的，
" data3=data_in*100;

data1=data3;
data2=data1/100;
data1=data1-data2*100;
itoa_1(data2,datax,10,data1,0);"
写成data3=4.2*100;就对，我现在怀疑是否有4.2这个浮点数，是不是data_in赋值4.2后单元中的数是4.19XXX。

发表于 2013-10-21 18:54

你直接仿真看一下，单精度变量data3被赋值后的值是多少？
data_in=4.2; //data_in 是否是4.20000000?
以及data3=4.2*100;与data_in=4.2; data3=data_in*100;两种计算方式得到的结果是否完全相等？

以此来排查是不是浮点转换的问题？

我的猜测是1）data3=4.2*100;直接得到的是乘积的单精度数值。2）data_in=4.2;这里可能存在double到single的转换。这里可能会产生一个类似4.1999999999的值，造成后面的itoa_1()计算差异？

发表于 2013-10-21 18:59

没有遇到过这一类的问题楼主帮你顶一个吧看看别人的意见应该有比较好的方法的

关于浮点运算的有趣问题

相关帖子

浏览过的版块

社区建设奖章

甘甜之泉水

以坛为家

技术高手奖章

技术新星奖章

欢快之小溪

精华达人奖章

偶尔光临

荣誉元老奖章

坚毅之洋流

十世金身

技术领袖奖章

技术奇才奖章

希望之星奖章

湍急之河流