发新帖我要提问
返回列表
打印

如何提高精度

[复制链接]
1466|12
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
yufe|  楼主 | 2022-2-1 23:05 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
高精度, MEASUREMENT, measur, Measure, unsigned, AC
static unsigned long accumulator = 0;     // accumulator for averaging
static unsigned int measurements =MEASUREMENT_COUNTER;  //measurement counter
unsigned   int mV;
mV = accumulator * 3000  / MEASUREMENT_COUNTER / 1023;
这样我换算出的精度如何提高
使用特权更多操作

使用特权

评论回复 赏
沙发
dingy| | 2022-2-1 23:09 | 只看该作者

用浮点运算

使用特权

评论回复 赏
板凳
heweibig| | 2022-2-1 23:11 | 只看该作者
这跟硬件有关

使用特权

评论回复 赏
地板
zhaoxqi| | 2022-2-1 23:13 | 只看该作者
什么硬件有关？

使用特权

评论回复 赏
5楼
jlyuan| | 2022-2-1 23:15 | 只看该作者
把数据类型定义成float

使用特权

评论回复 赏
6楼
llljh| | 2022-2-1 23:17 | 只看该作者
看看把数据类型变换一下试试

使用特权

评论回复 赏
7楼
stly| | 2022-2-1 23:20 | 只看该作者
或者把一个数据的每一位数字挨个放到一个数组里，计算起来就像“大数计算器”一样需要逐位计算。

使用特权

评论回复 赏
8楼
yufe|  楼主 | 2022-2-1 23:22 | 只看该作者
嗯，预料中的结果，多谢大家啦

使用特权

评论回复 赏
9楼
drer| | 2022-3-1 11:58 | 只看该作者
更改数据类型了

使用特权

评论回复 赏
10楼
qcliu| | 2022-3-1 12:09 | 只看该作者
这样比较耗费资源

使用特权

评论回复 赏
11楼
coshi| | 2022-3-1 12:15 | 只看该作者
浮点型会拖慢速度的吧

使用特权

评论回复 赏
12楼
kxsi| | 2022-3-1 12:55 | 只看该作者
算法上要处理一下

使用特权

评论回复 赏
13楼
wiba| | 2022-3-1 13:43 | 只看该作者
在不可以整除的情况下可以

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

yufe

983

主题

10170

帖子

1

粉丝