推荐一款精度计算表现较好的低成本芯片,原用STM32F103RBT6

发表于 2012-12-31 19:11

这里有一套算法，
比较奇怪的是，在PC机上算出的结果和下位机上算出的不是一回事，
即使用同一个数据也是这种现象，
下位机总是会出现偏差，
有时偏得多，有时偏得少，
而且感觉进入的判断条件都不一样，所以就各走各的路，

大量计算没有用浮点，就是几个初值需要浮点，
查来查去，改来改去，还是这种毛病，
感觉再改下去意义不大，
现在只能保证在常规数据下用强行校正不偏离太多，
极端数据，有时就会出怪现象，
CM3的机子性能不会这么差吧，
这是什么毛病？

发表于 2013-1-6 23:27

了解一下了

推荐一款精度计算表现较好的低成本芯片,原用STM32F103RBT6

相关帖子

浏览过的版块

以坛为家

涓涓之细流

技术新星奖章