怎么算出小数？

发表于 2016-5-5 21:35

官方例程之中用ADC10对温度传感器进行采样，转化，公式如下：
/ oF = ((A10/1024)*1500mV)-923mV)*1/1.97mV = A10*761/1024 - 468
temp = ADC10MEM;
IntDegF = ((temp - 630) * 761) / 1024;

// oC = ((A10/1024)*1500mV)-986mV)*1/3.55mV = A10*423/1024 - 278
temp = ADC10MEM;
IntDegC = ((temp - 673) * 423) / 1024;
用公式算出来的摄氏温度和华氏温度都是整数，为什么？怎么算出小数？

发表于 2016-5-5 21:37

把INDEGF扩大一百倍

发表于 2016-5-5 21:45

怎么搞？

发表于 2016-5-5 21:48

IntDegF = ((temp - 630) * 76100) / 1024;

发表于 2016-5-5 21:51

对，取整就会把小数部分取出来

发表于 2016-5-5 21:53

看看你定义的变量是什么类型的

发表于 2016-5-5 21:55

楼上上的方法的确不错，dsp作整数运算要比小数的简单。

发表于 2016-5-5 22:16

转换float吧

发表于 2016-5-5 22:18

恩恩，前面定义的INTDEGF TEMP 和 INTDEGC 都是LONG

发表于 2016-5-5 22:25

看看类型，转换错误了吧。

发表于 2016-5-5 22:28

该方法非常好的，若是允许浮点型的数据的话就更简单了

发表于 2016-5-5 22:29

哦，懂了，结贴啦

发表于 2016-5-6 23:09

要定义好float的类型吧

发表于 2016-5-6 23:11

双精度可以double的

怎么算出小数？

相关帖子

浏览过的版块

奔腾之江水

技术高手奖章

精英会员奖章

常驻人口