21ic电子技术开发论坛 › 综合技术交流 › PCB技术 › F120单片机 浮点型运算问题
返回列表 发新帖我要提问

F120单片机 浮点型运算问题

[复制链接]
 楼主| haibin2011 发表于 2011-12-1 22:05 | 显示全部楼层 |阅读模式
单片机, TE, 电脑, 精度, 计算器
long temp=1390 200 000;
Freq=(float)temp/12800000;/*Freq是float型，float是32位*/
//程序运算结果为：108.609367；但在电脑计算器中为：108.609375。请高手解答，如何让程序输出高精度结果？
回复 赏

举报

相关帖子
huang1shan 发表于 2011-12-2 09:01 | 显示全部楼层
LZ发错低法了:L
回复 赏

举报

ayb_ice 发表于 2011-12-3 10:07 | 显示全部楼层
有KEIL中不可能得出这样的结果108.609367
这个结果已经超出了单精度浮点数的精度范围了,应该是108.6094
回复 赏

举报

 楼主| haibin2011 发表于 2011-12-3 22:27 | 显示全部楼层
可能要自己编写一个算法，是32位乘32位的
回复 赏

举报

返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

haibin2011

7

主题

68

帖子

3

粉丝
快速回复 在线客服 返回列表 返回顶部