打印
[技术问题解答]

计算溢出问题

[复制链接]
812|5
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
moyou3344|  楼主 | 2015-7-29 09:02 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
沙发
cowboy2014| | 2015-7-29 09:04 | 只看该作者
相乘之后的数据有多大?

使用特权

评论回复
板凳
moyou3344|  楼主 | 2015-7-29 09:23 | 只看该作者
cowboy2014 发表于 2015-7-29 09:04
相乘之后的数据有多大?

超过32位,不到64位,十位数

使用特权

评论回复
地板
kfliuyan| | 2015-7-29 10:19 | 只看该作者
都定义为long long试试。

使用特权

评论回复
5
FSL_TICS_ZJJ| | 2015-7-31 09:32 | 只看该作者
楼主你是把超过long的结果再强制转换为longlong吗?
那样是不行的,你可以把两个相乘的值都定义为long long然后结果值也是longlong再计算试下。

使用特权

评论回复
6
咕噜林| | 2015-8-5 21:39 | 只看该作者
把两个相乘的值都定义为long long然后结果值也是longlong再计算
这样的方法同样适用f64浮点数计算哦

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

7

主题

28

帖子

0

粉丝