打印

可不可以理解为STM32可以保持13位有效数字

[复制链接]
1134|3
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
拿起书本|  楼主 | 2014-3-6 10:31 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
在STM32中将字符串转换为double类型的数但是不知道能保留几位,就在线调试了一下,
数组为
char parameter[7][20]={
         {"-4075.9873620908970"},
{"29051397.5424727610"},
{"-34272357978.847652"},
{"-0.305881006669620"},
{"-0.000464972266078"},
{"-0.300888744769468"},
{"4998.32853240000000"},
};
定义double a;调用函数
sscanf(parameter[1], "%lf", &a);
查看a为29051397.54247.
把数组中改为"51397.5424727610"
a为51392.54247276。
当定义double b为29051397.5424727610时查看b为29051397.54247.。
可不可以理解为STM32可以保持13位有效数字?
沙发
香水橙| | 2014-3-6 11:59 | 只看该作者
你去看看,你用的编译器中double类型是什么格式,再查查这种格式的有效位是多少。

你的问题与芯片无关。

使用特权

评论回复
板凳
huzi2099| | 2014-3-6 12:30 | 只看该作者
不够用的话可以分解成两个或多个double,double精度很少有不够用的,你是要算算老美欠了我们多少钱吗?

使用特权

评论回复
地板
拿起书本|  楼主 | 2014-3-6 14:47 | 只看该作者
回来下断点跟踪试试,前面double型在算的时候,是没问题的,后来的处理就有了点问题……,晚上再试,感谢楼上各位朋友的点拨。

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

个人签名:好好学习,天天向上!

519

主题

4195

帖子

31

粉丝