打印

精度问题

[复制链接]
1607|3
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
随风飘2008|  楼主 | 2007-6-14 17:39 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
沙发
tjsheep| | 2007-6-15 09:44 | 只看该作者

对long用Q31,Q只是计数法……

使用特权

评论回复
板凳
随风飘2008|  楼主 | 2007-6-16 17:19 | 只看该作者

继续问

如果我一个16位的数据,要去乘以一个系数
这个系数最多也就是只能是15位吧

对long用Q31,Q只是计数法……

15位怎么表示出Q31呢?

使用特权

评论回复
地板
tjsheep| | 2007-6-17 20:57 | 只看该作者

难道16位就不能乘32位的数?再说了,你的思路有问题

非要用16位来表示高精度的,那如果我说我要用8位的char来表示高精度,你告诉我怎么计数?q计数其实也还是整数计算,能表达的数据范围是线性的,无论用q多少计数,实际表示的数据范围是线性移动的,16位如果不够,那q什么也不行的……

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

6

主题

12

帖子

0

粉丝