怎么算出小数？

2万 · 2020-2-8 16:34

官方例程之中用ADC10对温度传感器进行采样，转化，公式如下：
/ oF = ((A10/1024)*1500mV)-923mV)*1/1.97mV = A10*761/1024 - 468
temp = ADC10MEM;
IntDegF = ((temp - 630) * 761) / 1024;

// oC = ((A10/1024)*1500mV)-986mV)*1/3.55mV = A10*423/1024 - 278
temp = ADC10MEM;
IntDegC = ((temp - 673) * 423) / 1024;
用公式算出来的摄氏温度和华氏温度都是整数，为什么？怎么算出小数？

2万 · 2020-2-8 16:38

IntDegF = ((temp - 630) * 76100) / 1024;

2万 · 2020-2-8 16:41

取整就会把小数部分取出来

2万 · 2020-2-8 16:46

这个要看看你定义的变量是什么类型的。。

1万 · 2020-2-8 16:49

楼上上的方法的确不错，dsp作整数运算要比小数的简单。

1万 · 2020-2-8 16:53

前面定义的INTDEGF TEMP 和 INTDEGC 都是LONG

1万 · 2020-2-8 16:58

看看类型，貌似转换错误了吧。

2万 · 2020-2-8 17:00

该方法非常好的，若是允许浮点型的数据的话就更简单了

1万 · 2020-2-8 17:03

要定义好float的类型吧，如果是双精度可以double

2万 · 2020-2-8 17:06

跟数据类型有关系的

1万 · 2020-2-8 17:10

可以放大再缩小处理。

2万 · 2020-2-8 17:14

结果跟输出也有干系的。

1万 · 2020-2-8 17:17

这个使用的不同类型的数据。

2万 · 2020-2-8 17:21

怎么定义的类型？都是整型数据吧。

只看该作者 · 2020-2-8 17:24

这个应该在计算之前加上（flaot）

1万 · 2020-2-8 17:26

double或者float才能产生小数的。

2万 · 2020-2-8 17:31

是数据类型有问题么？？

1万 · 2020-2-8 17:35

定义数据类型的时候定义成float或者double型就行

2万 · 2020-2-8 17:37

定义数据类型然后计算的时候需要如何处理我忘了好像也需要加个小数点啥的比如1写成1.0

1万 · 2020-2-8 17:39

难道不能允许浮点型数据吗？？