请教两浮点数相除的问题

发表于 2014-7-29 22:00

msp430单片机如何处理小数的除法，如果两个浮点数相除得到的是多少，比如我用的float t; t=4095/1042=3.0 ......跟实际值相差很多。按说t是浮点数应该得到小数点后面许多位的啊，求解。。。。

发表于 2014-7-29 22:54

哎，自己把自己搞糊涂了，，4095是ADC12MEM0的值，当然是int型，直接t = (float)4095 / 1042 ；就可以了啊

，结果是3.92994237

匿名 *发表于 2014-7-30 03:25* · 发表于 2014-7-30 03:25

我不熟悉单片机编程，不过给你个建议：你可以考虑把被除数4092先乘一个10000（一个比较大的数……），看看tt=40950000/1042的精度是否比t高。

发表于 2014-7-30 22:50

楼上说的对，t可以不用定义为浮点型的，如果直接用tt = 40950000/1042;得到的tt=39299 精度不错，避免了使用浮点型。