发新帖我要提问
返回列表
打印

关于PSOC的浮点运算问题

[复制链接]
2815|3
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
zhiyu03|  楼主 | 2009-5-25 10:38 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
PSOC, 编译, 编译器, double, TE
    最近在调试程序时发现PSOC时的浮点数运算精度不高，如果我有一个数运算出来后结果应为596522346，但经过程序运算出来后的结果为596522368，请问大家有什么好方法可以提高，我现在用的的HI-TECH的编译器,这个编译器的float型与double型数据长度好像都是一样的？请问这种问题如何来解决。

使用特权

评论回复 赏
沙发
zhiyu03|  楼主 | 2009-5-25 12:12 | 只看该作者

是小数参与运算的

我之前的数据是有小数运算的，小数运算完后就得出这样的结果，数据大了小数我就不要了。

使用特权

评论回复 赏
板凳
ni_labview| | 2009-5-25 15:44 | 只看该作者

这是PSOC运算精度问题，有时算太多了还要溢出

我那时用系统本身的编译器，有时发现用或不用硬件乘法器结果都不一样，也很郁闷，我给你问问CYPRESS哥哥那边

使用特权

评论回复 赏
地板
jxin| | 2009-5-29 09:42 | 只看该作者

psoc是8位MCU没有办法提高这种精确度

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

zhiyu03

10

主题

28

帖子

1

粉丝