浮点运算如下: fw0=5625636.482914; fw1=16796184.027028; fw2=-16716106.802805; fw3=5545557.1237500 ; fw=1.0-((fw1+fw2+fw3)/fw0); float w[0]=w[1]=w[2]=in_data[0];(in_data[] 是unsigned char数据) for(i=0;i<n;i++) { float x=in_data;
float sresult=(float)(fw*x + (fw1*w[2]+fw1*w[1]+fw2*w[0])/fw0) ; w[0]=w[1]; w[1]=w[2]; w[2]=sresult; }
浮点转定点运算:
fw0=5625636.482914; fw1=16796184.027028; fw2=-16716106.802805; fw3=5545557.1237500 ; fw=1.0-((fw1+fw2+fw3)/fw0); sw0 =(short) ( fw1/fw0 * 1024*1024 ); //11Q20 sw1 =(short) ( fw2/fw0 * 1024*1024); sw2 = (short)( fw3/fw0 * 1024*1024); sw = fw* 1024*1024 ; int w[0]=w[1]=w[2]=in_data[0];
for(i=0;i<n;i++) { int x=in_data; //////////////////////////////////////////////////////// int sresult=(int)((sw*x + sw0*w[2]+sw1*w[1]+sw2*w[0])/1048576) ; //////////////////////////////////////////////////////// w[0]=w[1]; w[1]=w[2]; w[2]=sresult; }
经过我DEBUG发现,定点运算的数据精度有损失是合理的,但是滤波出来的数据规律有问题,比如输入数据是1,2,3,4,5..........254,255;浮点运算后的输出数据基本是平滑的,但是定点运算后发现输出数据有周期性变化 如:1,2,3,4,5,6,8,9,10, 7,9,9,10, 15,16,17,18,19,20, 14,15,16, 24,25,26,27,........等等类似的情况,想不明白了!请高手指教, 这本质就是要实现一个滤波算法,但是要把浮点运算转化为定点运算,看了这方面的资料,根据这些资料改写了算法,但是就出现这样的结果,郁闷!!!!求救!!
|