21ic电子技术开发论坛 › 综合技术交流 › 德州仪器模拟论坛 › 请问28377 浮点精度低如何解决？
返回列表 发新帖我要提问

[技术求助] 请问28377 浮点精度低如何解决？

[复制链接]
16740|2
 楼主| 兼职设计 发表于 2021-4-15 10:07 | 显示全部楼层 |阅读模式
精度
定义2个浮点数 赋值1与2计算结果竟然不是2    1.000000*2.000000=2.03125 请问如何解决
回复

收藏 举报

相关帖子
airwill 发表于 2021-5-17 16:57 | 显示全部楼层
28377 浮点采用的是  IEEE 754 单精度浮点数,  虽然是有精度问题,  但 1.0*2.0 这样的数相乘, 不会有误差的.
0.1*0.2 会有误差的
回复

收藏 举报

ayb_ice 发表于 2021-5-18 09:44 | 显示全部楼层
即使有误差也不可能大到这程序，小数点后5~6位后是有可能的
但小的整数应该是没有误差的
回复

收藏 举报

返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

兼职设计

30

主题

57

帖子

3

粉丝
快速回复 在线客服 返回列表 返回顶部