打印

GD32G553 TMU

[复制链接]
495|3
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
本帖最后由 music1273 于 2025-8-6 17:50 编辑

sqrt使用时,定点数计算时,输入范围不能从0开始吗?如下表所示




emobile_2025-08-06_16-09-03.png (104.61 KB )

emobile_2025-08-06_16-09-03.png

emobile_2025-08-06_16-09-03.png (88.3 KB )

emobile_2025-08-06_16-09-03.png

使用特权

评论回复
沙发
music1273|  楼主 | 2025-8-6 16:11 | 只看该作者

GD32G553 TMU

使用特权

评论回复
板凳
dffzh| | 2025-8-7 09:24 | 只看该作者
看芯片用户手册,这个功能应该是由下面两位决定的吧:



使用特权

评论回复
地板
xch| | 2025-8-7 10:17 | 只看该作者
看这个意思是的。0 需要自己加个判断,没必要硬件运算。倒是最大值0.8xx 有点蹊跷。内部硬件逻辑是不是有毛病

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

2

主题

4

帖子

1

粉丝