打印
[应用相关]

怎么算出小数?

[复制链接]
953|19
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
Mozarts|  楼主 | 2018-7-15 21:52 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
官方例程之中用ADC10对温度传感器进行采样,转化,公式如下:
/ oF = ((A10/1024)*1500mV)-923mV)*1/1.97mV = A10*761/1024 - 468
    temp = ADC10MEM;
    IntDegF = ((temp - 630) * 761) / 1024;

    // oC = ((A10/1024)*1500mV)-986mV)*1/3.55mV = A10*423/1024 - 278
    temp = ADC10MEM;
    IntDegC = ((temp - 673) * 423) / 1024;
用公式算出来的摄氏温度和华氏温度都是整数,为什么?怎么算出小数?
沙发
_gege| | 2018-7-15 21:56 | 只看该作者
IntDegF = ((temp - 630) * 76100) / 1024;

使用特权

评论回复
板凳
Edisons| | 2018-7-15 21:56 | 只看该作者
取整就会把小数部分取出来

使用特权

评论回复
地板
laozhongyi| | 2018-7-15 22:00 | 只看该作者
这个要看看你定义的变量是什么类型的。。

使用特权

评论回复
5
wanglaojii| | 2018-7-15 22:00 | 只看该作者
楼上上的方法的确不错,dsp作整数运算要比小数的简单。

使用特权

评论回复
6
zhouhuanの| | 2018-7-15 22:03 | 只看该作者
前面定义的INTDEGF TEMP 和 INTDEGC 都是LONG

使用特权

评论回复
7
handleMessage| | 2018-7-15 22:04 | 只看该作者
看看类型,貌似转换错误了吧。

使用特权

评论回复
8
bbapple| | 2018-7-15 22:07 | 只看该作者
该方法非常好的,若是允许浮点型的数据的话就更简单了

使用特权

评论回复
9
sourceInsight| | 2018-7-15 22:08 | 只看该作者
要定义好float的类型吧,如果是双精度可以double

使用特权

评论回复
10
sourceInsight| | 2018-7-15 22:11 | 只看该作者

跟数据类型有关系的

使用特权

评论回复
11
boy1990| | 2018-7-15 22:11 | 只看该作者
可以放大再缩小处理。

使用特权

评论回复
12
CallReceiver| | 2018-7-15 22:15 | 只看该作者
结果跟输出也有干系的。

使用特权

评论回复
13
hfdy01| | 2018-7-15 22:15 | 只看该作者
这个使用的不同类型的数据。

使用特权

评论回复
14
xia00| | 2018-7-15 22:19 | 只看该作者
怎么定义的类型?都是整型数据吧。

使用特权

评论回复
15
shashaa| | 2018-7-15 22:20 | 只看该作者
这个应该在计算之前加上(flaot)

使用特权

评论回复
16
feiqi1| | 2018-7-15 22:24 | 只看该作者
double或者float才能产生小数的。

使用特权

评论回复
17
androidbus| | 2018-7-15 22:25 | 只看该作者
是数据类型有问题么??

使用特权

评论回复
18
木木guainv| | 2018-7-19 13:30 | 只看该作者
定义数据类型的时候定义成float或者double型就行

使用特权

评论回复
19
paotangsan| | 2018-7-20 08:16 | 只看该作者
定义数据类型 然后计算的时候需要如何处理我忘了 好像也需要加个小数点啥的 比如1写成1.0

使用特权

评论回复
20
Thorald| | 2018-7-23 19:41 | 只看该作者
难道不能允许浮点型数据吗??

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

70

主题

1320

帖子

0

粉丝