发新帖我要提问
返回列表
打印

超过32位的计算是怎么做的

[复制链接]
2153|7
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
huangfeng33|  楼主 | 2013-1-26 21:31 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
double, BLE, 精度
请问大家，你们做超过32位的计算是怎么做的？
我定义DOUBLE，不过误差好几十呢
可以把double精度提高吗？

使用特权

评论回复 赏
沙发
uet_cache| | 2013-1-27 09:46 | 只看该作者
什么数据这么长啊！不行就分开计算。。

使用特权

评论回复 赏
板凳
拿起书本| | 2013-1-28 20:51 | 只看该作者
我没有计算过stm32的long长度，用sizeof试试

使用特权

评论回复 赏
地板
lxyppc| | 2013-1-29 09:23 | 只看该作者
如果不想损失精度，就用大数来做，如果精度可以损失，就用double

使用特权

评论回复 赏
5楼
huangxz| | 2013-1-29 11:02 | 只看该作者
用浮点运算吧,cm4带的有。

使用特权

评论回复 赏
6楼
ljxh401| | 2013-1-29 15:03 | 只看该作者
如果不追求速度的话 可以自己写算法 很长很长 都能计算呢
我以前在的公司 做计算器  一个字节 存放 十进制的 两位数(每一个位 占用4个bit)
12个字节 就能存放一个 10^24 次方 的数据 了

使用特权

评论回复 赏
7楼
tianli1980| | 2013-1-31 16:21 | 只看该作者
要求精度高用浮点运算吧，不过这样要比常规运算复杂的多啊

使用特权

评论回复 赏
8楼
huangfeng33|  楼主 | 2013-2-7 15:29 | 只看该作者
刚才试验了。STM32计算2个32BIT除法没有问题，很精确，哈哈，结贴了，感谢朋友们

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

huangfeng33

506

主题

2446

帖子

8

粉丝