发新帖我要提问
返回列表
打印

转换误差问题

[复制链接]
871|2
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
txcy|  楼主 | 2012-5-15 22:50 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
字符串
这几天做一个项目，要用到浮点型的内容比较多些，但是在用浮点型和字符串之间进行转换之间存在误差，由于这个项目的精确度比较高，尽量不要存在误差。例如界面是“2.1”转换后的float最好也是2.1000，但是现在是2.09999，请问这个我该怎样修改额

使用特权

评论回复 赏

相关下载

相关帖子

沙发
sinadz| | 2012-5-15 23:17 | 只看该作者
浮点本身就有误差，有些数不能精确表示 float只有7位有效数字，用double精度高些，不过对于你的这个2.1，double也有可能有误差一样不能精确表示

使用特权

评论回复 赏
板凳
gxgclg| | 2012-5-15 23:24 | 只看该作者
添加个小的数：比如1e-6

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

txcy

274

主题

2106

帖子

0

粉丝