huangzj1234 发表于 2012-12-31 19:11

推荐一款精度计算表现较好的低成本芯片,原用STM32F103RBT6

这里有一套算法,
比较奇怪的是,在PC机上算出的结果和下位机上算出的不是一回事,
即使用同一个数据也是这种现象,
下位机总是会出现偏差,
有时偏得多,有时偏得少,
而且感觉进入的判断条件都不一样,所以就各走各的路,

大量计算没有用浮点,就是几个初值需要浮点,
查来查去,改来改去,还是这种毛病,
感觉再改下去意义不大,
现在只能保证在常规数据下用强行校正不偏离太多,
极端数据,有时就会出怪现象,
CM3的机子性能不会这么差吧,
这是什么毛病?

vgalcd 发表于 2013-1-6 23:27

了解一下了
页: [1]
查看完整版本: 推荐一款精度计算表现较好的低成本芯片,原用STM32F103RBT6