GD32G553 TMU

[复制链接]
 楼主| music1273 发表于 2025-8-6 16:09 | 显示全部楼层 |阅读模式
本帖最后由 music1273 于 2025-8-6 17:50 编辑

sqrt使用时,定点数计算时,输入范围不能从0开始吗?如下表所示




emobile_2025-08-06_16-09-03.png
emobile_2025-08-06_16-09-03.png
 楼主| music1273 发表于 2025-8-6 16:11 | 显示全部楼层

GD32G553 TMU

dffzh 发表于 2025-8-7 09:24 | 显示全部楼层
看芯片用户手册,这个功能应该是由下面两位决定的吧:
396136894001fcc0a0.png
9970168940041b2e8d.png

xch 发表于 2025-8-7 10:17 | 显示全部楼层
看这个意思是的。0 需要自己加个判断,没必要硬件运算。倒是最大值0.8xx 有点蹊跷。内部硬件逻辑是不是有毛病
您需要登录后才可以回帖 登录 | 注册

本版积分规则

2

主题

4

帖子

1

粉丝
快速回复 在线客服 返回列表 返回顶部