怎么算出小数？

发表于 2020-9-2 20:26

官方例程之中用ADC10对温度传感器进行采样，转化，公式如下：
/ oF = ((A10/1024)*1500mV)-923mV)*1/1.97mV = A10*761/1024 - 468
temp = ADC10MEM;
IntDegF = ((temp - 630) * 761) / 1024;

// oC = ((A10/1024)*1500mV)-986mV)*1/3.55mV = A10*423/1024 - 278
temp = ADC10MEM;
IntDegC = ((temp - 673) * 423) / 1024;
用公式算出来的摄氏温度和华氏温度都是整数，为什么？怎么算出小数？

发表于 2020-9-2 20:29

把INDEGF扩大一百倍

发表于 2020-9-2 20:32

怎么搞？

发表于 2020-9-2 20:35

IntDegF = ((temp - 630) * 76100) / 1024;

发表于 2020-9-2 20:40

对，取整就会把小数部分取出来

发表于 2020-9-2 20:44

看看你定义的变量是什么类型的

发表于 2020-9-2 20:47

楼上上的方法的确不错，dsp作整数运算要比小数的简单。

发表于 2020-9-2 20:57

转换float吧

发表于 2020-9-2 21:01

恩恩，前面定义的INTDEGF TEMP 和 INTDEGC 都是LONG

发表于 2020-9-2 21:06

看看类型，转换错误了吧。

发表于 2020-9-2 21:13

该方法非常好的，若是允许浮点型的数据的话就更简单了

发表于 2020-9-2 21:18

要定义好float的类型吧

发表于 2020-9-2 21:21

双精度可以double的

发表于 2020-9-2 21:25

转换为float

发表于 2020-9-2 21:29

类型吗？

发表于 2020-9-2 21:35

跟数据类型有关系的

发表于 2020-9-2 21:38

把定义的变量粘贴出来

发表于 2020-9-2 21:41

可以放大再缩小处理。

发表于 2020-9-2 21:44

结果跟输出有干系的。

发表于 2020-9-2 21:47

这个计算是不是很大呢

[MCU] 怎么算出小数？

相关帖子

浏览过的版块