关于PSOC的浮点运算问题

[复制链接]
2192|3
手机看帖
扫描二维码
随时随地手机跟帖
zhiyu03|  楼主 | 2009-5-25 10:38 | 显示全部楼层 |阅读模式
    最近在调试程序时发现PSOC时的浮点数运算精度不高,如果我有一个数运算出来后结果应为596522346,但经过程序运算出来后的结果为596522368,请问大家有什么好方法可以提高,我现在用的的HI-TECH的编译器,这个编译器的float型与double型数据长度好像都是一样的?请问这种问题如何来解决。
zhiyu03|  楼主 | 2009-5-25 12:12 | 显示全部楼层

是小数参与运算的

我之前的数据是有小数运算的,小数运算完后就得出这样的结果,数据大了小数我就不要了。

使用特权

评论回复
ni_labview| | 2009-5-25 15:44 | 显示全部楼层

这是PSOC运算精度问题,有时算太多了还要溢出

我那时用系统本身的编译器,有时发现用或不用硬件乘法器结果都不一样,也很郁闷,我给你问问CYPRESS哥哥那边

使用特权

评论回复
jxin| | 2009-5-29 09:42 | 显示全部楼层

psoc是8位MCU没有办法提高这种精确度

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

10

主题

28

帖子

1

粉丝