打印

请教关于浮点和定点计算的问题

[复制链接]
1010|1
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
tj_leo|  楼主 | 2013-9-14 15:18 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
大神好,本人目前想把上位机算法程序搬到下位机来,用的是定点DSP5509,经过试验发现double类型的数据无论怎么赋值,只有整数+小数共7位有效,其余小数部分就被截断了。我有几个问题:1.我要求算法中精确到小数点后三位即可,那是不是整数部分最大只能用到4位?2.在这个定点dsp中可以满足计算需求吗?3.定点与浮点计算核心区别在哪?希望大神不吝赐教,万分感谢

相关帖子

沙发
tj_leo|  楼主 | 2013-9-14 16:06 | 只看该作者
接上面,整数也最多只有高8位有效,请大神解释一下下~~

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

7

主题

14

帖子

1

粉丝