转换误差问题

[复制链接]
 楼主| txcy 发表于 2012-5-15 22:50 | 显示全部楼层 |阅读模式
这几天做一个项目,要用到浮点型的内容比较多些,但是在用浮点型和字符串之间进行转换之间存在误差,由于这个项目的精确度比较高,尽量不要存在误差。例如界面是“2.1”转换后的float最好也是2.1000,但是现在是2.09999,请问这个我该怎样修改额
sinadz 发表于 2012-5-15 23:17 | 显示全部楼层
浮点本身就有误差,有些数不能精确表示 float只有7位有效数字,用double精度高些,不过对于你的这个2.1,double也有可能有误差一样不能精确表示
gxgclg 发表于 2012-5-15 23:24 | 显示全部楼层
添加个小的数:比如1e-6
您需要登录后才可以回帖 登录 | 注册

本版积分规则

274

主题

2106

帖子

0

粉丝
快速回复 在线客服 返回列表 返回顶部

274

主题

2106

帖子

0

粉丝
快速回复 在线客服 返回列表 返回顶部