发新帖我要提问
返回列表
打印

数据溢出

[复制链接]
644|9
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
yinxiangh|  楼主 | 2015-10-3 11:01 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
unsigned, tc, While, IAR
之前做了程序：

main()
{
        unsigned int a =2000;
        unsigned int b =3000;
        unsigned int c =0;
        c= a*100/b;
        while(1);
}
1、在51 keil下面测试  发现c的值不对 不是预想中的c=66结果，感觉是a*100已经大于整型的范围造成错误

2、但在stm32 iar下测试 发现c的值却是正确的？请问为什么？

使用特权

评论回复 赏
沙发
pangb| | 2015-10-3 11:01 | 只看该作者
arm的int是３２位的
５１的int是１６位的

使用特权

评论回复 赏
板凳
chenjunt| | 2015-10-3 11:01 | 只看该作者
楼上大牛一针见血

使用特权

评论回复 赏
地板
ousj| | 2015-10-3 11:02 | 只看该作者
尽量少用'int'数据类型，用'short'表示16位的数据，用'long'表示32位数据，这样代码在不同平台间移植就会更容易。

使用特权

评论回复 赏
5楼
yinxiangh|  楼主 | 2015-10-3 11:03 | 只看该作者
iar  我使用 uint16_t   u16 替换unsigned int  
测试结果也是正常的  这个u16也是32位？

使用特权

评论回复 赏
6楼
ousj| | 2015-10-3 11:03 | 只看该作者
这个也是有可能的

１：
后面的100默认就是int整型，所以会正确，这样写可能还是会出错
c= a * ((U16)100) / b;

２：
有些编译器会自动提升整型计算，就是防止这种隐形出错

使用特权

评论回复 赏
7楼
morrisk| | 2015-10-3 11:03 | 只看该作者
c= (long)a*100/b;

使用特权

评论回复 赏
8楼
yinxiangh|  楼主 | 2015-10-3 11:03 | 只看该作者
不明白，算了吧

使用特权

评论回复 赏
9楼
布谷鸟2015| | 2015-10-15 21:55 | 只看该作者
数据类型转换的问题，大转小好像要强制类型转换吧

使用特权

评论回复 赏
10楼
xia00| | 2015-10-15 22:02 | 只看该作者
int值溢出了，数值设置的超过了int最大范围。

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

yinxiangh

723

主题

7134

帖子

2

粉丝