KEIL 浮点数取整遇到奇怪值

2万 · 2021-7-7 20:23

在KEIL仿真，当遇到浮点数是128.000时，取整得出的数竟然是127，请问是什么情况？Y=(unsigned int)f_temp;

2万 · 2021-7-7 20:25

其它浮点数取整无问题，就是这个128值出来的数有问题

2万 · 2021-7-7 20:28

应该是KEIL仿真显示128，但是16进制值是少于128一点点，所以取到127部分

1万 · 2021-7-7 20:30

不知道啊，所以定义时候就考虑好这些吧，尽量少转换，估计是Keil编译器的问题

1万 · 2021-7-7 20:32

开发板数据线出问题了，要不然可以试试

1万 · 2021-7-7 20:34

编译器还有这个缺陷？多亏我之前没在单片机用过这种操作

1万 · 2021-7-7 20:36

如果你知道什么是浮点数,二进制怎么表示你就知道了;
如果AB是浮点数,if(a==b)...是不能用的;
你的情况请用四舍五入方法得到整数部份

1万 · 2021-7-7 20:38

用KEIL 523测试过了，没这个问题啊。会不会是你别的处理问题？

1万 · 2021-7-7 20:40

没有碰到这种情况。

1万 · 2021-7-7 20:42

加个小数就行了
比如 +0.000001

1万 · 2021-7-7 20:52

不可能到 128！！！

2万 · 2021-7-7 20:53

有截图不

1万 · 2021-7-7 20:56

128.000 用浮点数是可以精确表示的, 如果用这样的数值赋值后取整是应该得 128 的.

2万 · 2021-7-7 20:58

不过如果是计算结果为 128.000, 那就不好说了, 因为这个结果可能是舍入后的结果, 实际上还并没有达到 128.

2万 · 2021-7-7 21:00

所以, 使用浮点数, 由于不精确表示的原因, 是会有这样的问题的, 要特别留意

2万 · 2021-7-7 21:03

f_temp 对应的内存或者寄存器的十六进制值是多少？

1万 · 2021-7-7 21:05

keil什么版本的？什么MCU？

2万 · 2021-7-7 21:06

是这样的，比如127.9999显示为128.0，但是取整截取前面就127了

2万 · 2021-7-7 21:08

可能是舍入后的结果

1万 · 2021-7-7 21:10

+0.5 再取整