打印

关于定点dsp的小数运算问题

[复制链接]
1286|4
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
tj_leo|  楼主 | 2013-9-16 10:05 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
大神好,想请教几个问题:1.之前看资料,说“定点dsp小数点位置固定”,我用的是dsp5509a,不知道小数点是哪一位?2.我分别定义了double类型数据,赋值为87.1, 87.12, 87.123,读出之后分别为87.099998, 87.120003 ,87.123001,不知道这个是什么规律?3.目前我需要进行算法移植,需要精确到小数点后3位,那么直接进行乘除可以满足吗?好像目前不太满足,是不是得乘个1000变成整数运算后再除1000转化回来?数据不会变吧?有什么更好的办法呢,谢谢啦~~~~

相关帖子

沙发
wangdezhi| | 2013-9-16 23:39 | 只看该作者
float的定义 应该是这样的吧。

使用特权

评论回复
板凳
snakeemail| | 2013-9-17 16:49 | 只看该作者
请自行baidu关键字“Q格式”

使用特权

评论回复
地板
tj_leo|  楼主 | 2013-9-18 08:18 | 只看该作者
snakeemail 发表于 2013-9-17 16:49
请自行baidu关键字“Q格式”

你好,通过查询我知道Q格式的基本意思了,我想问一下ccs3.3中有简便设定的方法吗?还是得我自己一个个移位,乘除,然后再移位之类的,谢谢您了~~

使用特权

评论回复
5
tj_leo|  楼主 | 2013-9-18 08:21 | 只看该作者
wangdezhi 发表于 2013-9-16 23:39
float的定义 应该是这样的吧。

您好,我感觉比较奇怪,通过幅值不同的double类型数,我发现无论怎么幅值,只有从最高有效位开始7位数有效,看着很像float的定义。不知道您有这方面的研究吗?

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

7

主题

14

帖子

1

粉丝