发新帖我要提问
返回列表
打印

STM32关于浮点数的运算和数据长度问题，不懂求教

[复制链接]
280|0
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
王将|  楼主 | 2019-11-14 12:32 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
STM32, double, Lab, matlab, BLE
如图，相同的式子，相同的数据，做最小二乘法拟合直线的时候matlab结果正确，stm32算出来都是0.000000；
系数计算都是正确的，已经验证了。
就是在最后乘除法那里出错，不懂stm32关于浮点数运算和数据长度这些东西
我的猜测是运算过程中某个量溢出了，然后导致出错
怎么回事啊，求教相同的程序我原来运行了更小的数据量也没有问题，这一次数据量大一些

居然没人回答。。。
发现问题了，但是不知道怎么解决
float表示的数的范围太小了，中间运算过程中有丢失
怎么解决
应该只是一个定义的问题了
不过我不知道浮点数怎么变大
试过double，不行

使用特权

评论回复 赏

相关帖子

返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

王将

419

主题

419

帖子

0

粉丝