打印

一个浮点转定点DSP算法的问题! 怪!!!!

[复制链接]
2535|1
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
pdm97|  楼主 | 2008-4-23 22:17 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
浮点运算如下:
   fw0=5625636.482914;
   fw1=16796184.027028;
   fw2=-16716106.802805;
   fw3=5545557.1237500 ;
   fw=1.0-((fw1+fw2+fw3)/fw0);     
   float w[0]=w[1]=w[2]=in_data[0];(in_data[] 是unsigned char数据)
  
   for(i=0;i<n;i++)
   {
      float x=in_data;

      float sresult=(float)(fw*x + 
            (fw1*w[2]+fw1*w[1]+fw2*w[0])/fw0) ;
      
      w[0]=w[1];
      w[1]=w[2];
      w[2]=sresult;
      
   }

浮点转定点运算:

   fw0=5625636.482914;
   fw1=16796184.027028;
   fw2=-16716106.802805;
   fw3=5545557.1237500 ;
   fw=1.0-((fw1+fw2+fw3)/fw0);     
   sw0 =(short) ( fw1/fw0 * 1024*1024  ); //11Q20
   sw1 =(short) ( fw2/fw0 * 1024*1024);  
   sw2 = (short)( fw3/fw0 * 1024*1024); 
   sw = fw* 1024*1024 ; 
   int w[0]=w[1]=w[2]=in_data[0];

   for(i=0;i<n;i++)
   {
     int  x=in_data;
      ////////////////////////////////////////////////////////
     int sresult=(int)((sw*x + sw0*w[2]+sw1*w[1]+sw2*w[0])/1048576) ;
      ////////////////////////////////////////////////////////
      w[0]=w[1];
      w[1]=w[2];
      w[2]=sresult;
      
   }

经过我DEBUG发现,定点运算的数据精度有损失是合理的,但是滤波出来的数据规律有问题,比如输入数据是1,2,3,4,5..........254,255;浮点运算后的输出数据基本是平滑的,但是定点运算后发现输出数据有周期性变化 如:1,2,3,4,5,6,8,9,10, 7,9,9,10, 15,16,17,18,19,20, 14,15,16, 24,25,26,27,........等等类似的情况,想不明白了!请高手指教,
这本质就是要实现一个滤波算法,但是要把浮点运算转化为定点运算,看了这方面的资料,根据这些资料改写了算法,但是就出现这样的结果,郁闷!!!!求救!!

相关帖子

沙发
pdm97|  楼主 | 2008-4-29 19:51 | 只看该作者

一个浮点转定点DSP算法的问题

没有人遇到过吗?

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

4

主题

17

帖子

0

粉丝