如何对28335中变量的精确度进行控制

发表于 2016-10-24 22:40

比如我先设置了变量a为float，但是后面计算中，我需要将计算得到的a取最小精度为2，则我应该怎么编写程序？

发表于 2016-10-25 22:39

定标法：Q格式：通过假定小数点位于哪一位的右侧，从而确定小数的精度。

Q0：小数点在第0位的后面，即我们一般采用的方法

Q15 小数点在第15位的后面，0～14位都是小数位。

发表于 2016-10-25 22:39

找一下Q格式及计算相关方法

发表于 2016-10-26 09:22

zhangmangui 发表于 2016-10-25 22:39
定标法：Q格式：通过假定小数点位于哪一位的右侧，从而确定小数的精度。

Q0：小数点在第0位的后面，即我 ...

浮点运算也能用Q格式么？CCS中如何添加它的头文件？

发表于 2016-10-26 09:23

zhangmangui 发表于 2016-10-25 22:39
找一下Q格式及计算相关方法

浮点运算也能用Q格式么？CCS中如何添加它的头文件？

发表于 2016-10-26 22:14

这样理解吧你放大100倍去处理然后将结果还原回来

[DSP编程] 如何对28335中变量的精确度进行控制