发新帖我要提问
返回列表
打印

关于浮点数精度处理问题!!

[复制链接]
1675|3
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
ccxlslr|  楼主 | 2010-4-18 22:26 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
精度, 计算机, print, printf
如个一个浮点数a=0.4
在计算机表示中,很可能为0.399999(C常用标准表示方法,接近这样,肯定不是0.4)
如果你用printf输出,还是为0.400000

计算机用什么规则进行处理的.

使用特权

评论回复 赏

相关下载

相关帖子
沙发
ccxlslr|  楼主 | 2010-4-20 10:20 | 只看该作者
没人理我?

使用特权

评论回复 赏
板凳
ccxlslr|  楼主 | 2011-4-25 10:51 | 只看该作者
浮起来!

使用特权

评论回复 赏
地板
wgxabc| | 2011-4-26 17:01 | 只看该作者
顶！！！！！！！！！

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

ccxlslr
个人签名：电位器，可调电阻，微调电阻就选BOURNS 3362 带刻度，温漂小于100ppm/℃。 http://www.szlcsc.com/search/global.html&global_search_keyword=3362%2520BOURNS

68

主题

587

帖子

3

粉丝