百思不得其解KEIL的ulong类型数据处理结果

只看该作者 · 2012-2-11 23:56

程序如图1，其中RXD_BUF数组是uchar型的，仿真的结果如图2
其中count的十进制结果是934463，为什么不是预想中的999999呢？求解！不胜感激！！

1万 · 2012-2-12 04:15

这不是问题，原因：

程序优化，最后结果可能未存储至count中，因为后续程序继续使用count中的计算结果，直接引用了。

只看该作者 · 2012-2-12 09:46

楼上说的不对。
可以做个单步调试来看结果。问题出在了keil的乘法上面。
(ulong) (RXD_BUF[1]*100000)：这一句的结果肯定大于0xFFFF，keil调用的是?C?LMUL，long型。
RXD_BUF[2]*10000 这一句：结果可能小于0xFFFF(65535)，keil调用的是?C?IMUL，int型；

第二句改为：
count += (ulong) (RXD_BUF[2]*(ulong)10000);
显示让keil编译时调用long型乘法就好了。注意，ulong和long的函数不一样，一个是C?LIMUL，另一个是C?LMUL。

另外，对于这些大数乘法的时候，最好都标示清楚。后面可以加L，UL。

只看该作者 · 2012-2-12 13:08

count = (ulong)(RX_BUF[1]*100000)改成count = (ulong)RX_BUF[1]*100000就行了。
以此类推。

1万 · 2012-2-12 14:26

count = (ulong)(RX_BUF[1]*100000)改成count = (ulong)RX_BUF[1]*100000就行了。
以此类推。
ghpzhu 发表于 2012-2-12 13:08

类型转换的问题！！
(ulong)(RX_BUF[1]*100000)
  做的第一步：(RX_BUF[1]*100000)  会被转换成这里面最高级的长度，可能溢出！
  第二步：将第一步溢出结果，转换成ULONG
  第三步：你就看到了出错的结果

只看该作者 · 2012-2-12 14:32

如果是Keil for ARM，那么看不出问题来，如果Keil for 51，那么100000这个明显溢出了。
C语言里面常数默认是int类型，而C51的int是16位的，100000必然被截掉，必须写成100000UL。

1万 · 2012-2-12 15:41

楼上说的不对。
可以做个单步调试来看结果。问题出在了keil的乘法上面。
(ulong) (RXD_BUF[1]*100000)：这一句的结果肯定大于0xFFFF，keil调用的是?C?LMUL，long型。
RXD_BUF[2]*10000 这一句：结果可能小于0xFFFF( ...
hi21ic 发表于 2012-2-12 09:46

LZ要用count变量计算十进制结果999999，很明显，count变量是ulong类型。

倒是 6楼李富贵说的有理，如果Keil for 51，那么100000这个明显溢出了。
C语言里面常数默认是int类型，而C51的int是16位的，100000必然被截掉，必须写成100000UL。