打印
[应用相关]

怎么算出小数?

[复制链接]
586|26
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
xxrs|  楼主 | 2020-2-8 16:34 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
官方例程之中用ADC10对温度传感器进行采样,转化,公式如下:
/ oF = ((A10/1024)*1500mV)-923mV)*1/1.97mV = A10*761/1024 - 468
    temp = ADC10MEM;
    IntDegF = ((temp - 630) * 761) / 1024;

    // oC = ((A10/1024)*1500mV)-986mV)*1/3.55mV = A10*423/1024 - 278
    temp = ADC10MEM;
    IntDegC = ((temp - 673) * 423) / 1024;
用公式算出来的摄氏温度和华氏温度都是整数,为什么?怎么算出小数?

使用特权

评论回复
沙发
zhanglli| | 2020-2-8 16:38 | 只看该作者
IntDegF = ((temp - 630) * 76100) / 1024;

使用特权

评论回复
板凳
huanghuac| | 2020-2-8 16:41 | 只看该作者
取整就会把小数部分取出来

使用特权

评论回复
地板
tian111| | 2020-2-8 16:46 | 只看该作者

这个要看看你定义的变量是什么类型的。。

使用特权

评论回复
5
chuxh| | 2020-2-8 16:49 | 只看该作者
楼上上的方法的确不错,dsp作整数运算要比小数的简单。

使用特权

评论回复
6
dingy| | 2020-2-8 16:53 | 只看该作者
前面定义的INTDEGF TEMP 和 INTDEGC 都是LONG

使用特权

评论回复
7
yszong| | 2020-2-8 16:58 | 只看该作者
看看类型,貌似转换错误了吧。

使用特权

评论回复
8
yinxiangh| | 2020-2-8 17:00 | 只看该作者
该方法非常好的,若是允许浮点型的数据的话就更简单了

使用特权

评论回复
9
morrisk| | 2020-2-8 17:03 | 只看该作者
要定义好float的类型吧,如果是双精度可以double

使用特权

评论回复
10
zyf部长| | 2020-2-8 17:06 | 只看该作者
跟数据类型有关系的

使用特权

评论回复
11
xxmmi| | 2020-2-8 17:10 | 只看该作者
可以放大再缩小处理。

使用特权

评论回复
12
lium| | 2020-2-8 17:14 | 只看该作者

结果跟输出也有干系的。

使用特权

评论回复
13
yufe| | 2020-2-8 17:17 | 只看该作者
这个使用的不同类型的数据。

使用特权

评论回复
14
llia| | 2020-2-8 17:21 | 只看该作者
怎么定义的类型?都是整型数据吧。

使用特权

评论回复
15
wangzsa| | 2020-2-8 17:24 | 只看该作者

这个应该在计算之前加上(flaot)

使用特权

评论回复
16
juventus9554| | 2020-2-8 17:26 | 只看该作者

double或者float才能产生小数的。

使用特权

评论回复
17
huwr| | 2020-2-8 17:31 | 只看该作者
是数据类型有问题么??

使用特权

评论回复
18
bqyj| | 2020-2-8 17:35 | 只看该作者
定义数据类型的时候定义成float或者double型就行

使用特权

评论回复
19
zhuhuis| | 2020-2-8 17:37 | 只看该作者

定义数据类型 然后计算的时候需要如何处理我忘了 好像也需要加个小数点啥的 比如1写成1.0

使用特权

评论回复
20
zwll| | 2020-2-8 17:39 | 只看该作者
难道不能允许浮点型数据吗??

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

405

主题

7415

帖子

1

粉丝