[应用相关] 怎么算出小数?

[复制链接]
1036|26
 楼主| xxrs 发表于 2020-2-8 16:34 | 显示全部楼层 |阅读模式
官方例程之中用ADC10对温度传感器进行采样,转化,公式如下:
/ oF = ((A10/1024)*1500mV)-923mV)*1/1.97mV = A10*761/1024 - 468
    temp = ADC10MEM;
    IntDegF = ((temp - 630) * 761) / 1024;

    // oC = ((A10/1024)*1500mV)-986mV)*1/3.55mV = A10*423/1024 - 278
    temp = ADC10MEM;
    IntDegC = ((temp - 673) * 423) / 1024;
用公式算出来的摄氏温度和华氏温度都是整数,为什么?怎么算出小数?
zhanglli 发表于 2020-2-8 16:38 | 显示全部楼层
IntDegF = ((temp - 630) * 76100) / 1024;
huanghuac 发表于 2020-2-8 16:41 | 显示全部楼层
取整就会把小数部分取出来
tian111 发表于 2020-2-8 16:46 | 显示全部楼层

这个要看看你定义的变量是什么类型的。。
chuxh 发表于 2020-2-8 16:49 | 显示全部楼层
楼上上的方法的确不错,dsp作整数运算要比小数的简单。
dingy 发表于 2020-2-8 16:53 | 显示全部楼层
前面定义的INTDEGF TEMP 和 INTDEGC 都是LONG
yszong 发表于 2020-2-8 16:58 | 显示全部楼层
看看类型,貌似转换错误了吧。
yinxiangh 发表于 2020-2-8 17:00 | 显示全部楼层
该方法非常好的,若是允许浮点型的数据的话就更简单了
morrisk 发表于 2020-2-8 17:03 | 显示全部楼层
要定义好float的类型吧,如果是双精度可以double
zyf部长 发表于 2020-2-8 17:06 | 显示全部楼层
跟数据类型有关系的
xxmmi 发表于 2020-2-8 17:10 | 显示全部楼层
可以放大再缩小处理。
lium 发表于 2020-2-8 17:14 | 显示全部楼层

结果跟输出也有干系的。
yufe 发表于 2020-2-8 17:17 | 显示全部楼层
这个使用的不同类型的数据。
llia 发表于 2020-2-8 17:21 | 显示全部楼层
怎么定义的类型?都是整型数据吧。
wangzsa 发表于 2020-2-8 17:24 | 显示全部楼层

这个应该在计算之前加上(flaot)
juventus9554 发表于 2020-2-8 17:26 | 显示全部楼层

double或者float才能产生小数的。
huwr 发表于 2020-2-8 17:31 | 显示全部楼层
是数据类型有问题么??
bqyj 发表于 2020-2-8 17:35 | 显示全部楼层
定义数据类型的时候定义成float或者double型就行
zhuhuis 发表于 2020-2-8 17:37 | 显示全部楼层

定义数据类型 然后计算的时候需要如何处理我忘了 好像也需要加个小数点啥的 比如1写成1.0
zwll 发表于 2020-2-8 17:39 | 显示全部楼层
难道不能允许浮点型数据吗??
您需要登录后才可以回帖 登录 | 注册

本版积分规则

405

主题

7415

帖子

1

粉丝
快速回复 在线客服 返回列表 返回顶部