报警提示 integer operation result is out of range

发表于 2020-5-20 23:26

unsigned long cnt32;
unsigned  int x,y;
x=400;
y=400;

cnt32 = x*y;    编译正常不报警，但运算结果为0x27100的低16位0x7100,而不0x27100

cnt32 = 400*400;    报警提示 integer operation result is out of range

请问，怎样才能得到正确结果.

发表于 2020-5-20 23:29

cnt32 =（unsigned long ） x*y;

发表于 2020-5-20 23:34

感觉应该是类型不匹配吧。

发表于 2020-5-20 23:37

能给我份F28027的编程素材吗,我自己不会弄啊，按步骤来操作，编译还是出错

发表于 2020-5-20 23:40

就是一开始要添加的头文件和源文件什么的

发表于 2020-5-20 23:42

楼上强制进行类型转换的，是可以的。

发表于 2020-5-20 23:45

unsigned long是几位啊，提示是已溢出了

发表于 2020-5-20 23:50

unsigned long是几个字节，400*400=160000，超界了吧

发表于 2020-5-20 23:52

楼主看看不是改变了类型了。

发表于 2020-5-20 23:55

转换结果直接强制转换类型导致类型不匹配。

发表于 2020-5-20 23:58

这个需要在执行的过程中做数据类型的强制转换的。

发表于 2020-5-21 21:18

这个经常会遇到的，处理办法的楼上也说了的。

发表于 2020-5-21 21:21

这样的问题还是能很容易解决的。

发表于 2020-5-21 21:23

应该是超出了类型限制了。

发表于 2020-5-21 21:27

类型不匹配，会自动截取满足被赋值类型的数据，而你直接400*400,编译器会先计算再赋值，这样相当于赋值的是个常数，所以会报错。

发表于 2020-5-21 21:30

类型不匹配的问题

发表于 2020-5-21 21:35

明白了，多谢大家讨论这么多哈

[应用相关] 报警提示 integer operation result is out of range

相关帖子

浏览过的版块

浏览过的版块