请教关于浮点和定点计算的问题

[复制链接]
1253|1
 楼主| tj_leo 发表于 2013-9-14 15:18 | 显示全部楼层 |阅读模式
大神好,本人目前想把上位机算法程序搬到下位机来,用的是定点DSP5509,经过试验发现double类型的数据无论怎么赋值,只有整数+小数共7位有效,其余小数部分就被截断了。我有几个问题:1.我要求算法中精确到小数点后三位即可,那是不是整数部分最大只能用到4位?2.在这个定点dsp中可以满足计算需求吗?3.定点与浮点计算核心区别在哪?希望大神不吝赐教,万分感谢
 楼主| tj_leo 发表于 2013-9-14 16:06 | 显示全部楼层
接上面,整数也最多只有高8位有效,请大神解释一下下~~
您需要登录后才可以回帖 登录 | 注册

本版积分规则

7

主题

14

帖子

1

粉丝
快速回复 在线客服 返回列表 返回顶部