打印
[AVR单片机]

悲摧的Atmega16A的运算,怎么处理?

[复制链接]
894|2
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
ltwsq|  楼主 | 2015-5-27 10:33 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
      在单片机程序当中,由给定的参数i_Fade_time_temp = 7,根据此参数来计算其对应的计算值i_count,计算公式如下: i_count = ceil(0.2 * (506/ sqrt(pow(2,i_Fade_time_temp)))), 然而在程序运行的过程当中,最终的运行效果并不是预期中的效果。
     由于上式的计算结果为i_count = 9,我直接将i_count赋值为9,再来运行程序,此时的运行效果才是预期中的效果。难道atmega16中的运算就这么的不靠谱?

相关帖子

沙发
airwill| | 2015-5-27 13:00 | 只看该作者
不是运算不靠谱, 应该是精度的问题引起的, 特别是中间结果的精度问题.

使用特权

评论回复
板凳
JY-DX-JY| | 2015-6-1 18:46 | 只看该作者
将算式分解就能找到问题了。

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

8

主题

14

帖子

1

粉丝