发新帖我要提问
返回列表
打印

乘积值的精度

[复制链接]
254|2
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
jiaxw|  楼主 | 2016-9-16 18:02 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
精度
一个很大的数如22222222（转成Q格式后需Q6），然后需要乘以一个很小的小数如0.00000011（转成Q格式需要Q27），怎么样处理才能让其乘积值的精度在Q15左右啊？

使用特权

评论回复 赏

相关下载

相关帖子

沙发
jiaxw|  楼主 | 2016-9-16 18:03 | 只看该作者

22222222*0.00000011=2.44444442

使用特权

评论回复 赏
板凳
liliang9554| | 2016-9-16 18:05 | 只看该作者
什么意思？不是很明白你说的什么，能再解释一下这个现象吗

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

jiaxw

825

主题

9762

帖子

4

粉丝