发新帖我要提问
返回列表
打印
[技术求助]

请问28377 浮点精度低如何解决？

[复制链接]
16464|2
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
兼职设计|  楼主 | 2021-4-15 10:07 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
精度
定义2个浮点数 赋值1与2计算结果竟然不是2    1.000000*2.000000=2.03125 请问如何解决

使用特权

评论回复 赏

相关下载

相关帖子

沙发
airwill| | 2021-5-17 16:57 | 只看该作者
28377 浮点采用的是  IEEE 754 单精度浮点数,  虽然是有精度问题,  但 1.0*2.0 这样的数相乘, 不会有误差的.
0.1*0.2 会有误差的

使用特权

评论回复 赏
板凳
ayb_ice| | 2021-5-18 09:44 | 只看该作者
即使有误差也不可能大到这程序，小数点后5~6位后是有可能的
但小的整数应该是没有误差的

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

兼职设计

30

主题

57

帖子

3

粉丝