超过32位的计算是怎么做的

[复制链接]
2619|7
 楼主| huangfeng33 发表于 2013-1-26 21:31 | 显示全部楼层 |阅读模式
请问大家,你们做超过32位的计算是怎么做的?
我定义DOUBLE,不过误差好几十呢
可以把double精度提高吗?
uet_cache 发表于 2013-1-27 09:46 | 显示全部楼层
什么数据这么长啊!不行就分开计算。。
拿起书本 发表于 2013-1-28 20:51 | 显示全部楼层
我没有计算过stm32的long长度,用sizeof试试
lxyppc 发表于 2013-1-29 09:23 | 显示全部楼层
如果不想损失精度,就用大数来做,如果精度可以损失,就用double
huangxz 发表于 2013-1-29 11:02 | 显示全部楼层
用浮点运算吧,cm4带的有。
ljxh401 发表于 2013-1-29 15:03 | 显示全部楼层
如果不追求速度的话 可以自己写算法 很长很长 都能计算呢
我以前在的公司 做计算器  一个字节 存放 十进制的 两位数(每一个位 占用4个bit)
12个字节 就能存放一个 10^24 次方 的数据 了
tianli1980 发表于 2013-1-31 16:21 | 显示全部楼层
要求精度高用浮点运算吧,不过这样要比常规运算复杂的多啊
 楼主| huangfeng33 发表于 2013-2-7 15:29 | 显示全部楼层
刚才试验了。STM32计算2个32BIT除法没有问题,很精确,哈哈,结贴了,感谢朋友们
您需要登录后才可以回帖 登录 | 注册

本版积分规则

506

主题

2446

帖子

8

粉丝
快速回复 在线客服 返回列表 返回顶部