怎么算出小数？

发表于 2020-2-8 16:34

官方例程之中用ADC10对温度传感器进行采样，转化，公式如下：
/ oF = ((A10/1024)*1500mV)-923mV)*1/1.97mV = A10*761/1024 - 468
temp = ADC10MEM;
IntDegF = ((temp - 630) * 761) / 1024;

// oC = ((A10/1024)*1500mV)-986mV)*1/3.55mV = A10*423/1024 - 278
temp = ADC10MEM;
IntDegC = ((temp - 673) * 423) / 1024;
用公式算出来的摄氏温度和华氏温度都是整数，为什么？怎么算出小数？

发表于 2020-2-8 16:38

IntDegF = ((temp - 630) * 76100) / 1024;

发表于 2020-2-8 16:41

取整就会把小数部分取出来

发表于 2020-2-8 16:46

这个要看看你定义的变量是什么类型的。。

发表于 2020-2-8 16:49

楼上上的方法的确不错，dsp作整数运算要比小数的简单。

发表于 2020-2-8 16:53

前面定义的INTDEGF TEMP 和 INTDEGC 都是LONG

发表于 2020-2-8 16:58

看看类型，貌似转换错误了吧。

发表于 2020-2-8 17:00

该方法非常好的，若是允许浮点型的数据的话就更简单了

发表于 2020-2-8 17:03

要定义好float的类型吧，如果是双精度可以double

发表于 2020-2-8 17:06

跟数据类型有关系的

发表于 2020-2-8 17:10

可以放大再缩小处理。

发表于 2020-2-8 17:14

结果跟输出也有干系的。

发表于 2020-2-8 17:17

这个使用的不同类型的数据。

发表于 2020-2-8 17:21

怎么定义的类型？都是整型数据吧。

发表于 2020-2-8 17:24

这个应该在计算之前加上（flaot）

发表于 2020-2-8 17:26

double或者float才能产生小数的。

发表于 2020-2-8 17:31

是数据类型有问题么？？

发表于 2020-2-8 17:35

定义数据类型的时候定义成float或者double型就行

发表于 2020-2-8 17:37

定义数据类型然后计算的时候需要如何处理我忘了好像也需要加个小数点啥的比如1写成1.0

发表于 2020-2-8 17:39

难道不能允许浮点型数据吗？？

[应用相关] 怎么算出小数？

相关帖子

浏览过的版块