发新帖我要提问
返回列表
打印

精度问题

[复制链接]
1703|3
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
随风飘2008|  楼主 | 2007-6-14 17:39 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
精度, 高精度
今天遇到一个问题
大家都知道在5402中
Q的最高就是Q15了吧
它的精度也就是1/（2^15)
我现在用这样的精度都不够了
还有其他办法提高精度吗？

使用特权

评论回复 赏

相关下载

相关帖子
沙发
tjsheep| | 2007-6-15 09:44 | 只看该作者

对long用Q31,Q只是计数法……

使用特权

评论回复 赏
板凳
随风飘2008|  楼主 | 2007-6-16 17:19 | 只看该作者

继续问

如果我一个16位的数据,要去乘以一个系数
这个系数最多也就是只能是15位吧

对long用Q31,Q只是计数法……

15位怎么表示出Q31呢?

使用特权

评论回复 赏
地板
tjsheep| | 2007-6-17 20:57 | 只看该作者

难道16位就不能乘32位的数？再说了，你的思路有问题

非要用16位来表示高精度的，那如果我说我要用8位的char来表示高精度，你告诉我怎么计数？q计数其实也还是整数计算，能表达的数据范围是线性的，无论用q多少计数，实际表示的数据范围是线性移动的，16位如果不够，那q什么也不行的……

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

随风飘2008

6

主题

12

帖子

0

粉丝