怎么算出小数

发表于 2020-12-4 19:02

官方例程之中用ADC10对温度传感器进行采样，转化，公式如下：
/ oF = ((A10/1024)*1500mV)-923mV)*1/1.97mV = A10*761/1024 - 468
temp = ADC10MEM;
IntDegF = ((temp - 630) * 761) / 1024;

// oC = ((A10/1024)*1500mV)-986mV)*1/3.55mV = A10*423/1024 - 278
temp = ADC10MEM;
IntDegC = ((temp - 673) * 423) / 1024;
用公式算出来的摄氏温度和华氏温度都是整数，为什么？怎么算出小数？

发表于 2020-12-4 19:03

可以把INDEGF扩大一百倍试试看。

发表于 2020-12-4 19:07

IntDegF = ((temp - 630) * 76100) / 1024;

发表于 2020-12-4 19:09

对，取整就会把小数部分取出来。

发表于 2020-12-4 19:13

看看你定义的变量是什么类型的。。

发表于 2020-12-4 19:14

dsp作整数运算要比小数的简单。

发表于 2020-12-4 19:18

前面定义的INTDEGF TEMP 和 INTDEGC 都是LONG

发表于 2020-12-4 19:20

看看类型，转换错误了吧。

发表于 2020-12-4 19:24

好像非常好的，若是允许浮点型的数据的话就更简单了。。

发表于 2020-12-4 19:26

要定义好float的类型吧！！

发表于 2020-12-4 19:30

跟数据类型有关系的转换为float试试

发表于 2020-12-4 19:37

结果跟输出有干系的。

发表于 2020-12-4 19:52

使用不同类型的数据。

发表于 2020-12-4 19:54

可以强制转换。
都是整型数据吧。

发表于 2020-12-4 19:58

可以在计算之前加上（float）

发表于 2020-12-4 20:18

double或者float才能产生小数的。

[信息] 怎么算出小数

相关帖子

浏览过的版块