kabur 发表于 2013-4-18 16:41

tms320f28335,我在CCS4.24环境下定义了一个浮点常量，但是跟实际数有差别

我的浮点常量定义如下：const   long   doubleCurveFitting_A=86.96928513;

但是我把程序下载到DSP中后，仿真运行，然后我把这个常量赋给了一个变量，变量也是long doule类型， 变量的值却变成了86.96928，这是为什么，用什么办法可以保证这个变量跟常量的值相同

zhangmangui 发表于 2013-4-18 16:44

c语言 中的精度问题吧

kabur 发表于 2013-4-18 16:59

zhangmangui 发表于 2013-4-18 16:44 static/image/common/back.gif
c语言 中的精度问题吧

那怎么才能保证精度呢？

zengguangjun 发表于 2013-4-18 19:05

记得有次看到CCS把double当float处理了，你看看是不是这样。要不是不是窗口显示的问题，实际是正确的
页: [1]
查看完整版本: tms320f28335,我在CCS4.24环境下定义了一个浮点常量，但是跟实际数有差别