发新帖我要提问
返回列表
打印
[STM32F7]

FPU运算结果不对是精度问题？

[复制链接]
68|10
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
Uriah|  楼主 | 2025-5-5 07:58 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
精度
浮点算法和PC上算得不一样，是不是单精度导致的误差？

使用特权

评论回复 赏
沙发
Clyde011| | 2025-5-5 07:59 | 只看该作者
用MATLAB导出的参数建议做归一化。

使用特权

评论回复 赏
板凳
公羊子丹| | 2025-5-5 08:00 | 只看该作者
是不是用了float但运算超出精度了？

使用特权

评论回复 赏
地板
周半梅| | 2025-5-5 08:01 | 只看该作者
FPU默认用单精度的，double要特别处理。

使用特权

评论回复 赏
5楼
帛灿灿| | 2025-5-5 08:02 | 只看该作者
你在Keil里选了硬件FPU没？

使用特权

评论回复 赏
6楼
童雨竹| | 2025-5-5 08:02 | 只看该作者
用printf输出也会有精度截断的。

使用特权

评论回复 赏
7楼
万图| | 2025-5-5 08:03 | 只看该作者
尽量少做连续减法，误差会叠加。

使用特权

评论回复 赏
8楼
Wordsworth| | 2025-5-5 08:04 | 只看该作者
确保启用了FPU相关寄存器。

使用特权

评论回复 赏
9楼
Bblythe| | 2025-5-5 08:05 | 只看该作者
我测过sin、cos，确实会偏。

使用特权

评论回复 赏
10楼
Pulitzer| | 2025-5-5 08:06 | 只看该作者
你是不是混用了float和int？

使用特权

评论回复 赏
11楼
Uriah|  楼主 | 2025-5-5 08:06 | 只看该作者
会不会是优化等级太高影响表达式顺序？

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Uriah

56

主题

4709

帖子

1

粉丝