数值转换不对

[复制链接]
529|3
 楼主| 过期账户 发表于 2019-11-17 13:36 | 显示全部楼层 |阅读模式
已知      L=4294950236      

我通过下面的计算
        t1=(double)L;
            t=t1/2000000.0;
或者直接      t=L/2000000.0;
得到   t的浮点数,为什么不对啊??????那该如何得到啊???????
mcu5i51 发表于 2020-5-16 08:26 | 显示全部楼层
L=4294950236  是什么意思,请上最简代码
airwill 发表于 2020-5-16 09:37 | 显示全部楼层
这是个变量罢了,   如果 double 类型是可以处理的, 但如果 float , 精度损失比较大
shcnxjy 发表于 2020-5-16 09:56 | 显示全部楼层
L的定义是有符号还是无符号的?有符号整数的话,后面的赋值已经超过表示范围了
您需要登录后才可以回帖 登录 | 注册

本版积分规则

395

主题

395

帖子

0

粉丝
快速回复 在线客服 返回列表 返回顶部