发新帖我要提问
返回列表
打印

F120单片机 浮点型运算问题

[复制链接]
1467|3
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
haibin2011|  楼主 | 2011-12-1 22:05 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
单片机, TE, 电脑, 精度, 计算器
long temp=1390 200 000;
Freq=(float)temp/12800000;/*Freq是float型，float是32位*/
//程序运算结果为：108.609367；但在电脑计算器中为：108.609375。请高手解答，如何让程序输出高精度结果？

使用特权

评论回复 赏

相关下载

相关帖子
沙发
huang1shan| | 2011-12-2 09:01 | 只看该作者
LZ发错低法了:L

使用特权

评论回复 赏
板凳
ayb_ice| | 2011-12-3 10:07 | 只看该作者
有KEIL中不可能得出这样的结果108.609367
这个结果已经超出了单精度浮点数的精度范围了,应该是108.6094

使用特权

评论回复 赏
地板
haibin2011|  楼主 | 2011-12-3 22:27 | 只看该作者
可能要自己编写一个算法，是32位乘32位的

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

haibin2011

7

主题

68

帖子

3

粉丝