打印

为什么定点DSP运算输出的时候容易出现结果为0的情况

[复制链接]
181|0
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
这个里给大家举个例子就好理解了。

首先定点数就是用整数来表示浮点数。

比如Q15定点数,我们这里采用Q1.15格式,也就是1个符号位,剩下15位是数据位

作为整数,他能表示的数据范围是-32768 到 32767,   对应到浮点数能表示的范围就是 -32768 / 32768 到 32767 / 32768 ,即 -1 到 0.9999695,能表示的最小浮点数单位是 1/ 32768

此时如果两个Q15格式的数据相乘,比如1 乘以 1,对应到浮点就是(  1 / 32768 ) * (  1 / 32768 ) = 1 / (32768 * 32768) ,已经远远小于Q15所能表示的最小浮点数。

所以这两个的乘积就是0

使用特权

评论回复

相关帖子

发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

432

主题

439

帖子

0

粉丝