21ic电子技术开发论坛 › 单片机与嵌入式系统 › 德州仪器MCU › 乘积值的精度
返回列表 发新帖我要提问

乘积值的精度

[复制链接]
345|2
 楼主| jiaxw 发表于 2016-9-16 18:02 | 显示全部楼层 |阅读模式
精度
一个很大的数如22222222（转成Q格式后需Q6），然后需要乘以一个很小的小数如0.00000011（转成Q格式需要Q27），怎么样处理才能让其乘积值的精度在Q15左右啊？
回复

收藏 举报

相关帖子
 楼主| jiaxw 发表于 2016-9-16 18:03 | 显示全部楼层

22222222*0.00000011=2.44444442
回复

收藏 举报

liliang9554 发表于 2016-9-16 18:05 | 显示全部楼层
什么意思？不是很明白你说的什么，能再解释一下这个现象吗
回复

收藏 举报

返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

jiaxw

825

主题

9762

帖子

4

粉丝
快速回复 在线客服 返回列表 返回顶部