发新帖我要提问
返回列表
打印

精度问题

[复制链接]
927|8
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
pangb|  楼主 | 2013-11-3 11:53 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
精度, measur, MEASUREMENT, Measure, counter
static unsigned long accumulator = 0;     // accumulator for averaging
static unsigned int measurements =MEASUREMENT_COUNTER;  //measurement counter
unsigned   int mV;
mV = accumulator * 3000  / MEASUREMENT_COUNTER / 1023;
这样我换算出的精度如何提高

使用特权

评论回复 赏
沙发
chenjunt| | 2013-11-3 11:54 | 只看该作者
用浮点运算

使用特权

评论回复 赏
板凳
ousj| | 2013-11-3 11:55 | 只看该作者
这跟硬件有关

使用特权

评论回复 赏
地板
morrisk| | 2013-11-3 11:55 | 只看该作者
什么硬件有关？

使用特权

评论回复 赏
5楼
小小猫咪| | 2013-11-3 11:56 | 只看该作者
把数据类型定义成float

使用特权

评论回复 赏
6楼
小小猫咪| | 2013-11-3 11:56 | 只看该作者
比如：
static float accumulator = 0.0;

使用特权

评论回复 赏
7楼
司徒老鹰| | 2013-11-3 11:57 | 只看该作者
看看把数据类型变换一下试试

使用特权

评论回复 赏
8楼
pangb|  楼主 | 2013-11-3 11:58 | 只看该作者
哦，知道了，我试试

使用特权

评论回复 赏
9楼
pangb|  楼主 | 2013-11-3 11:59 | 只看该作者
先结贴了， 多谢大家啊

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

pangb

701

主题

7643

帖子

6

粉丝