搜索
打印

[技术求助] 请问28377 浮点精度低如何解决?

[复制链接]
5370|2
跳转到指定楼层
楼主
兼职设计|  楼主 | 2021-4-15 10:07 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
沙发
airwill| | 2021-5-17 16:57 | 只看该作者
28377 浮点采用的是  IEEE 754 单精度浮点数,  虽然是有精度问题,  但 1.0*2.0 这样的数相乘, 不会有误差的.
0.1*0.2 会有误差的

使用特权

评论回复
板凳
ayb_ice| | 2021-5-18 09:44 | 只看该作者
即使有误差也不可能大到这程序,小数点后5~6位后是有可能的
但小的整数应该是没有误差的

使用特权

评论回复
扫描二维码,随时随地手机跟帖
您需要登录后才可以回帖 登录 | 注册

本版积分规则

我要发帖 我要提问 投诉建议 申请版主

快速回复

您需要登录后才可以回帖
登录 | 注册
高级模式

本版热帖

本版活跃用户

优质原创写原创,赢大奖

编辑推荐

  • 1 wolfe_yu 得到打赏 ¥170.00
  • 2 小叶三千 得到打赏 ¥160.00
  • 3 最美葫芦娃 得到打赏 ¥155.00
  • 4 呐咯密密 得到打赏 ¥135.00
  • 5 hk386 得到打赏 ¥100.00
  • 6 laocuo1142 得到打赏 ¥85.00
  • 7 木野臻 得到打赏 ¥60.00
  • 8 ezcui 得到打赏 ¥60.00
  • 9 wzx1994 得到打赏 ¥60.00
  • 10 年轻的国王 得到打赏 ¥60.00
在线客服 快速回复 返回顶部 返回列表