C51的float表示的正整数是精确的吗?

[复制链接]
3787|3
 楼主| clipper 发表于 2007-12-10 15:07 | 显示全部楼层 |阅读模式
譬如65535以下的正整数,用float表示应该也是精确的吧?没有舍入误差?我的理解是,float表示很大的整数和大部分小数都是不精确的,对吗?
ayb_ice 发表于 2007-12-10 15:39 | 显示全部楼层

32位的有效精度是6位,所以是正确的。。。

samuelyu 发表于 2007-12-10 17:40 | 显示全部楼层

做工程的精确都是有限的,在你接受的范围内就好;

 楼主| clipper 发表于 2007-12-10 17:56 | 显示全部楼层

多谢!

因为原来是整型的,怕改成float后引起累积误差,所以有此一问,谢谢指点!
您需要登录后才可以回帖 登录 | 注册

本版积分规则

52

主题

112

帖子

1

粉丝
快速回复 在线客服 返回列表 返回顶部