如图,相同的式子,相同的数据,做最小二乘法拟合直线的时候matlab结果正确,stm32算出来都是0.000000;
系数计算都是正确的,已经验证了。
就是在最后乘除法那里出错,不懂stm32关于浮点数运算和数据长度这些东西
我的猜测是运算过程中某个量溢出了,然后导致出错
怎么回事啊,求教相同的程序我原来运行了更小的数据量也没有问题,这一次数据量大一些
居然没人回答。。。
发现问题了,但是不知道怎么解决
float表示的数的范围太小了,中间运算过程中有丢失
怎么解决
应该只是一个定义的问题了
不过我不知道浮点数怎么变大
试过double,不行 |