悲摧的Atmega16A的运算，怎么处理?

发表于 2015-5-27 10:33

在单片机程序当中，由给定的参数i_Fade_time_temp = 7,根据此参数来计算其对应的计算值i_count，计算公式如下: i_count = ceil(0.2 * (506/ sqrt(pow(2,i_Fade_time_temp)))), 然而在程序运行的过程当中，最终的运行效果并不是预期中的效果。
由于上式的计算结果为i_count = 9，我直接将i_count赋值为9，再来运行程序，此时的运行效果才是预期中的效果。难道atmega16中的运算就这么的不靠谱?

发表于 2015-5-27 13:00

不是运算不靠谱, 应该是精度的问题引起的, 特别是中间结果的精度问题.

发表于 2015-6-1 18:46

将算式分解就能找到问题了。

[AVR单片机] 悲摧的Atmega16A的运算，怎么处理?

相关帖子

浏览过的版块

技术新星奖章

荣誉元老奖章

坚毅之洋流

十世金身

技术领袖奖章

甘甜之泉水