数据溢出

发表于 2017-8-13 20:45

之前做了程序：

main()
{
      unsigned int a =2000;
      unsigned int b =3000;
      unsigned int c =0;
      c= a*100/b;
      while(1);
}
1、在51 keil下面测试  发现c的值不对不是预想中的c=66结果，感觉是a*100已经大于整型的范围造成错误

2、但在stm32 iar下测试发现c的值却是正确的？请问为什么？

发表于 2017-8-13 20:47

arm的int是３２位的
５１的int是１６位的

发表于 2017-8-13 20:49

楼上大牛一针见血

发表于 2017-8-13 20:50

尽量少用'int'数据类型，用'short'表示16位的数据，用'long'表示32位数据，这样代码在不同平台间移植就会更容易。

发表于 2017-8-13 20:52

iar 我使用 uint16_t u16 替换unsigned int
测试结果也是正常的这个u16也是32位？

发表于 2017-8-13 20:55

这个也是有可能的

１：
后面的100默认就是int整型，所以会正确，这样写可能还是会出错
c= a * ((U16)100) / b;

２：
有些编译器会自动提升整型计算，就是防止这种隐形出错

发表于 2017-8-13 20:57

c= (long)a*100/b;

发表于 2017-8-13 20:59

不明白，算了吧

发表于 2017-8-13 21:01

数据类型转换的问题，大转小好像要强制类型转换吧

发表于 2017-8-13 21:03

int值溢出了，数值设置的超过了int最大范围。

发表于 2017-8-13 21:05

嗯，预料中的结果，先结贴吧，多谢大家啦

数据溢出

相关帖子

浏览过的版块