大家帮忙看看ADS1.2中浮点数问题

[复制链接]
 楼主| Angel3598 发表于 2013-5-20 20:59 | 显示全部楼层 |阅读模式
surface是double型,toth_l和total_all都是unsigned int型并且值正确。
surface=toth_x*1.0/total_all;
surface = (surface - 0.5) / 0.2;
以及surface=asin(surface);
angle=surface*180/PI;
现在问题是surface的值不对,以及后面的angle的值都不对,是在ADS1.2的环境中,请问大家我应该如何计算上面的值? 谢谢大家了
dirtwillfly 发表于 2013-5-20 21:13 | 显示全部楼层
没用过ADS1.2,帮顶
 楼主| Angel3598 发表于 2013-5-20 21:24 | 显示全部楼层
我也是没有用过ADS1.2 我从MDK中移植过来就不能用,郁闷啊 求教求教
ayb_ice 发表于 2013-5-21 07:51 | 显示全部楼层
asin的参数是不是浮点呢

调试嘛,哪一步不对就是那里的问题了,

这个就是计算,应该是有些地方自动数据类型转换了,损失了精度
 楼主| Angel3598 发表于 2013-5-21 10:50 | 显示全部楼层
貌似是堆栈问题,谢谢大家
您需要登录后才可以回帖 登录 | 注册

本版积分规则

8

主题

24

帖子

0

粉丝
快速回复 在线客服 返回列表 返回顶部

8

主题

24

帖子

0

粉丝
快速回复 在线客服 返回列表 返回顶部