请教有关PIC18 浮点误差

发表于 2025-4-11 18:20

请教有关PIC18 浮点误差最近用PICC 9.66 ，
  设为  long  double  xx
      u32 yy;
         xx=0.12345678;
      xx*=100000000;
      yy=(u32) xx;

然后显示yy  ，发现等于  12345732  ，与原来的数有百万分之 3的误差，请问这是为何呢？  编译中已用32bit的浮点

发表于 2025-4-11 20:41

是不是浮点数的表示范围超出了32位浮点数的精度范围

发表于 2025-4-11 22:31

在浮点数转整数时，可能会因为四舍五入或者截断导致误差

发表于 2025-4-12 08:56

浮点数运算本身就有精度问题

发表于 2025-4-12 16:42

可以尝试在其他硬件平台上运行相同的代码看看结果是否一致

发表于 2025-4-12 23:31

可以尝试用更高精度的数据类型来存储中间结果

发表于 2025-4-16 15:27

yy也定义成浮点吧，类型一致。然后结果如何？

发表于 2025-4-17 18:04

你这四舍五入了？应该向高精度的强制转换。

发表于 2025-4-25 16:02

PIC18 系列微控制器并没有硬件浮点单元（FPU），这意味着所有的浮点运算都需要通过软件模拟进行。这会导致浮点运算相对较慢，且可能会有一些精度丢失。

发表于 2025-4-25 16:05

当你使用 32-bit 浮点数时，它其实是采用了 IEEE 754 标准的单精度浮点格式（32-bit）。而当你选择 long double 类型时，它通常也是 32-bit 浮点数（除非你的编译器在某些特定平台下支持更大的浮点格式）。

发表于 2025-4-25 16:48

浮点数（无论是 float、double 还是 long double）是基于近似值来表示实数的，它的存储方式无法精确表示所有小数，因此会存在误差。

发表于 2025-4-25 17:11

long double 的精度通常为 64 位，但如果在 PICC 9.66 编译器中它实际上使用的是 32 位浮点数（单精度浮点数），那么它的精度就受限于 IEEE 754 单精度浮点数的表示范围，能表示的有效数字最多为 7-8 位十进制数字。

发表于 2025-7-9 20:16

PIC18 浮点误差源于计算机以二进制表示浮点数，尾数有限，导致舍入和截断误差

[PIC®/AVR®/dsPIC®产品] 请教 有关PIC18 浮点误差

相关帖子

浏览过的版块

[PIC®/AVR®/dsPIC®产品] 请教有关PIC18 浮点误差