请教有关PIC18 浮点误差

1万 · 2025-4-11 18:20

请教有关PIC18 浮点误差最近用PICC 9.66 ，
  设为  long  double  xx
      u32 yy;
         xx=0.12345678;
      xx*=100000000;
      yy=(u32) xx;

然后显示yy  ，发现等于  12345732  ，与原来的数有百万分之 3的误差，请问这是为何呢？  编译中已用32bit的浮点

只看该作者 · 2025-4-11 20:41

是不是浮点数的表示范围超出了32位浮点数的精度范围

只看该作者 · 2025-4-11 22:31

在浮点数转整数时，可能会因为四舍五入或者截断导致误差

只看该作者 · 2025-4-12 08:56

浮点数运算本身就有精度问题

只看该作者 · 2025-4-12 16:42

可以尝试在其他硬件平台上运行相同的代码看看结果是否一致

只看该作者 · 2025-4-12 23:31

可以尝试用更高精度的数据类型来存储中间结果

只看该作者 · 2025-4-16 15:27

yy也定义成浮点吧，类型一致。然后结果如何？

只看该作者 · 2025-4-17 18:04

你这四舍五入了？应该向高精度的强制转换。

请教 有关PIC18 浮点误差

请教有关PIC18 浮点误差