兼职设计 发表于 2021-4-15 10:07

请问28377 浮点精度低如何解决？

定义2个浮点数 赋值1与2计算结果竟然不是2    1.000000*2.000000=2.03125 请问如何解决

airwill 发表于 2021-5-17 16:57

28377 浮点采用的是IEEE 754 单精度浮点数,虽然是有精度问题,但 1.0*2.0 这样的数相乘, 不会有误差的.
0.1*0.2 会有误差的

ayb_ice 发表于 2021-5-18 09:44

即使有误差也不可能大到这程序，小数点后5~6位后是有可能的
但小的整数应该是没有误差的
页: [1]
查看完整版本: 请问28377 浮点精度低如何解决？