发新帖我要提问
返回列表
打印

可不可以理解为STM32可以保持13位有效数字

[复制链接]
1233|3
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
拿起书本|  楼主 | 2014-3-6 10:31 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
STM32, double, BLE, meter, parameter
在STM32中将字符串转换为double类型的数但是不知道能保留几位，就在线调试了一下，
数组为
char parameter[7][20]={
         {"-4075.9873620908970"},
{"29051397.5424727610"},
{"-34272357978.847652"},
{"-0.305881006669620"},
{"-0.000464972266078"},
{"-0.300888744769468"},
{"4998.32853240000000"},
};
定义double a；调用函数
sscanf(parameter[1], "%lf", &a);
查看a为29051397.54247.
把数组中改为"51397.5424727610"
a为51392.54247276。
当定义double b为29051397.5424727610时查看b为29051397.54247.。
可不可以理解为STM32可以保持13位有效数字？

使用特权

评论回复 赏
沙发
香水橙| | 2014-3-6 11:59 | 只看该作者
你去看看，你用的编译器中double类型是什么格式，再查查这种格式的有效位是多少。

你的问题与芯片无关。

使用特权

评论回复 赏
板凳
huzi2099| | 2014-3-6 12:30 | 只看该作者
不够用的话可以分解成两个或多个double,double精度很少有不够用的,你是要算算老美欠了我们多少钱吗?

使用特权

评论回复 赏
地板
拿起书本|  楼主 | 2014-3-6 14:47 | 只看该作者
回来下断点跟踪试试，前面double型在算的时候，是没问题的，后来的处理就有了点问题……，晚上再试，感谢楼上各位朋友的点拨。

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

拿起书本
个人签名：好好学习，天天向上！

519

主题

4194

帖子

31

粉丝