打印

一种神奇的开方计算方法

[复制链接]
4090|15
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
computer00|  楼主 | 2017-5-29 11:33 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
   Quake III公开源码后,有人在game/code/q_math.c里发现了这样一段代码。
它的作用是将一个数开平方并取倒,经测试这段代码比(float)(1.0/sqrt(x))快4倍:

float Q_rsqrt( float number ){
   long i;
   float x2, y;
   const float threehalfs = 1.5F;
  x2 = number * 0.5F;
   y  = number;
   i  = * ( long * ) &y;  // evil floating point bit level hacking
   i  = 0x5f3759df - ( i >> 1 ); // what the fuck?
   y  = * ( float * ) &i;
   y  = y * ( threehalfs - ( x2 * y * y ) ); // 1st iteration
   // y  = y * ( threehalfs - ( x2 * y * y ) ); // 2nd iteration, this can be removed
   return y;
}

经过验证,的确可以实现开方的功能,且精度很好。单
看代码,很费解的,把一个浮点数的内存数据往右移
一位,是个啥鬼东西?费解。然后再用0x5f3759df这个
诡异的数字去减掉这个移位出来的数字,是个啥玩意?
然后再把这个结果当作一个浮点数来看,又是个什么鬼?
就最后那两次迭代能看懂,但也不是随便就能推出来的。

下面这篇**有详细的推导过程和扩展方法,值得一看。

相关帖子

沙发
dandantcb| | 2017-5-29 12:58 | 只看该作者
有意思

使用特权

评论回复
板凳
computer00|  楼主 | 2017-5-29 14:21 | 只看该作者

那是,一般人我不告诉他~~~

使用特权

评论回复
地板
QuakeGod| | 2017-5-29 23:59 | 只看该作者
据说SSE指令集里,快速求平方根倒数的(V)RSQRT[P/S]也是用的这个算法。

使用特权

评论回复
5
lixiang69| | 2017-5-30 01:10 | 只看该作者
虽然没看懂但是很厉害

使用特权

评论回复
6
linqing171| | 2017-5-30 14:34 | 只看该作者
kao, 浮点数,归一化后为 1.x * 2^e ,归一化成1.x 后,才有了这个特点。 比读书的时候做的汇编浮点库要快。

使用特权

评论回复
7
shalixi| | 2017-5-30 17:57 | 只看该作者
后面看

使用特权

评论回复
8
宇容创行| | 2017-5-31 20:56 | 只看该作者
神奇的时代的神奇代码

使用特权

评论回复
9
steelen| | 2017-6-1 08:38 | 只看该作者
这段代码是参考手工开平方运算方法得到的
具体要参考数学书
浮点数移位很正常,其实与整形没有差别

使用特权

评论回复
10
computer00|  楼主 | 2017-6-1 09:10 | 只看该作者
steelen 发表于 2017-6-1 08:38
这段代码是参考手工开平方运算方法得到的
具体要参考数学书
浮点数移位很正常,其实与整形没有差别 ...

那你能说说浮点数移位是什么意思么?和整形没差别?
例如float x = 16;移位完后是个啥玩意?

使用特权

评论回复
11
steelen| | 2017-6-1 15:07 | 只看该作者
仔细体会体会数的结构
就会明白的

使用特权

评论回复
12
computer00|  楼主 | 2017-6-1 16:19 | 只看该作者
steelen 发表于 2017-6-1 15:07
仔细体会体会数的结构
就会明白的

能指点一下么?体会不出来……

使用特权

评论回复
13
Wh654321| | 2017-6-1 17:12 | 只看该作者
2009-06-10
John Carmack密码:0x5f3759df--Quake III的源代码分析 - [Code4Fun]
版权声明:转载时请以超链接形式标明**原始出处和作者信息及本声明
【此处原文连接,论坛不让用,删除】


有人在Quake III的源代码里面发现这么一段用来求平方根的代码:

/*================SquareRootFloat================*/

float SquareRootFloat(float number) {
long i;
float x, y;
const float f = 1.5F;
x = number * 0.5F;
y = number;
i = * ( long * ) &y;
i = 0x5f3759df - ( i >> 1 ); //注意这一行
y = * ( float * ) &i;
y = y * ( f - ( x * y * y ) );
y = y * ( f - ( x * y * y ) );
return number * y;
}

0x5f3759df? 这是个什么东西? 学过数值分析就知道,算法里面求平方根一般采用
的是无限逼近的方法,比如牛顿迭代法,抱歉当年我数值分析学的太烂,也讲不清楚
。简单来说比如求5的平方根,选一个猜测值比如2,那么我们可以这么算

5/2 = 2.5; 2.5+2/2 = 2.25; 5/2.25 = xxx; 2.25+xxx/2 = xxxx ...
这样反复迭代下去,结果必定收敛于sqrt(5),没错,一般的求平方根都是这么算的
。而卡马克的不同之处在于,他选择了一个神秘的猜测值0x5f3759df作为起始,使得
整个逼近过程收敛速度暴涨,对于Quake III所要求的精度10的负三次方,只需要一
次迭代就能够得到结果。

好吧,如果这还不算牛b,接着看。

普渡大学的数学家Chris Lomont看了以后觉得有趣,决定要研究一下卡马克弄出来的
这个猜测值有什么奥秘。Lomont也是个牛人,在精心研究之后从理论上也推导出一个
最佳猜测值,和卡马克的数字非常接近, 0x5f37642f。卡马克真牛,他是外星人吗?


传奇并没有在这里结束。Lomont计算出结果以后非常满意,于是拿自己计算出的起始
值和卡马克的神秘数字做比赛,看看谁的数字能够更快更精确的求得平方根。结果是
卡马克赢了... 谁也不知道卡马克是怎么找到这个数字的。

最后Lomont怒了,采用暴力方法一个数字一个数字试过来,终于找到一个比卡马克数
字要好上那么一丁点的数字,虽然实际上这两个数字所产生的结果非常近似,这个暴
力得出的数字是0x5f375a86。

Lomont为此写下一篇论文,"Fast Inverse Square Root"。

John Carmack, ID的无价之宝。

//===============================================================

日前在书上看到一段使用多项式逼近计算平方根的代码,至今都没搞明白作者是怎样推算出那个公式的。但在尝试解决问题的过程中,学到了不少东西,于是便有了这篇心得,写出来和大家共享。其中有错漏的地方,还请大家多多指教。

的确,正如许多人所说的那样,现在有有FPU,有3DNow,有SIMD,讨论软件算法好像不合时宜。关于sqrt的话题其实早在2003年便已在 GameDev.net上得到了广泛的讨论(可见我实在非常火星了,当然不排除还有其他尚在冥王星的人,嘿嘿)。而尝试探究该话题则完全是出于本人的兴趣和好奇心(换句话说就是无知)。

我只是个beginner,所以这种大是大非的问题我也说不清楚(在GameDev.net上也有很多类似的争论)。但无论如何,Carmack在DOOM3中还是使用了软件算法,而多知道一点数学知识对3D编程来说也只有好处没坏处。3D图形编程其实就是数学,数学,还是数学。

**原本是用HTML编排的,所以只截取了部分有比较有趣的东西放在这里。原文在我的个人主页上,同时也提供了2篇论文的下载:【此处原文连接,论坛不让用,删除】

=========================================================

在3D图形编程中,经常要求平方根或平方根的倒数,例如:求向量的长度或将向量归一化。C数学函数库中的sqrt具有理想的精度,但对于3D游戏程式来说速度太慢。我们希望能够在保证足够的精度的同时,进一步提高速度。

Carmack在QUAKE3中使用了下面的算法,它第一次在公众场合出现的时候,几乎震住了所有的人。据说该算法其实并不是Carmack发明的,它真正的作者是Nvidia的Gary Tarolli(未经证实)。
-----------------------------------
//
// 计算参数x的平方根的倒数
//
float InvSqrt (float x)
{
float xhalf = 0.5f*x;
int i = *(int*)&x;
i = 0x5f3759df - (i >> 1); // 计算第一个近似根
x = *(float*)&i;
x = x*(1.5f - xhalf*x*x); // 牛顿迭代法
return x;
}
----------------------------------
该算法的本质其实就是牛顿迭代法(Newton-Raphson Method,简称NR),而NR的基础则是泰勒级数(Taylor Series)。NR是一种求方程的近似根的方法。首先要估计一个与方程的根比较靠近的数值,然后根据公式推算下一个更加近似的数值,不断重复直到可以获得满意的精度。其公式如下:
-----------------------------------
函数:y=f(x)
其一阶导数为:y'=f'(x)
则方程:f(x)=0 的第n+1个近似根为
x[n+1] = x[n] - f(x[n]) / f'(x[n])
-----------------------------------
NR最关键的地方在于估计第一个近似根。如果该近似根与真根足够靠近的话,那么只需要少数几次迭代,就可以得到满意的解。

现在回过头来看看如何利用牛顿法来解决我们的问题。求平方根的倒数,实际就是求方程1/(x^2)-a=0的解。将该方程按牛顿迭代法的公式展开为:
x[n+1]=1/2*x[n]*(3-a*x[n]*x[n])
将1/2放到括号里面,就得到了上面那个函数的倒数第二行。

接着,我们要设法估计第一个近似根。这也是上面的函数最神奇的地方。它通过某种方法算出了一个与真根非常接近的近似根,因此它只需要使用一次迭代过程就获得了较满意的解。它是怎样做到的呢?所有的奥妙就在于这一行:
i = 0x5f3759df - (i >> 1); // 计算第一个近似根

超级莫名其妙的语句,不是吗?但仔细想一下的话,还是可以理解的。我们知道,IEEE标准下,float类型的数据在32位系统上是这样表示的(大体来说就是这样,但省略了很多细节,有兴趣可以GOOGLE):
-------------------------------
bits:31 30 ... 0
31:符号位
30-23:共8位,保存指数(E)
22-0:共23位,保存尾数(M)
-------------------------------
所以,32位的浮点数用十进制实数表示就是:M*2^E。开根然后倒数就是:M^(-1/2)*2^(-E/2)。现在就十分清晰了。语句i> >1其工作就是将指数除以2,实现2^(E/2)的部分。而前面用一个常数减去它,目的就是得到M^(1/2)同时反转所有指数的符号。

至于那个0x5f3759df,呃,我只能说,的确是一个超级的Magic Number。

那个Magic Number是可以推导出来的,但我并不打算在这里讨论,因为实在太繁琐了。简单来说,其原理如下:因为IEEE的浮点数中,尾数M省略了最前面的1,所以实际的尾数是1+M。如果你在大学上数学课没有打瞌睡的话,那么当你看到(1+M)^(-1/2)这样的形式时,应该会马上联想的到它的泰勒级数展开,而该展开式的第一项就是常数。下面给出简单的推导过程:
-------------------------------
对于实数R>0,假设其在IEEE的浮点表示中,
指数为E,尾数为M,则:

R^(-1/2)
= (1+M)^(-1/2) * 2^(-E/2)

将(1+M)^(-1/2)按泰勒级数展开,取第一项,得:

原式
= (1-M/2) * 2^(-E/2)
= 2^(-E/2) - (M/2) * 2^(-E/2)

如果不考虑指数的符号的话,
(M/2)*2^(E/2)正是(R>>1),
而在IEEE表示中,指数的符号只需简单地加上一个偏移即可,
而式子的前半部分刚好是个常数,所以原式可以转化为:

原式 = C - (M/2)*2^(E/2) = C - (R>>1),其中C为常数

所以只需要解方程:
R^(-1/2)
= (1+M)^(-1/2) * 2^(-E/2)
= C - (R>>1)
求出令到相对误差最小的C值就可以了
-------------------------------
上面的推导过程只是我个人的理解,并未得到证实。而Chris Lomont则在他的论文中详细讨论了最后那个方程的解法,并尝试在实际的机器上寻找最佳的常数C。有兴趣的朋友可以在文末找到他的论文的链接。

所以,所谓的Magic Number,并不是从N元宇宙的某个星系由于时空扭曲而掉到地球上的,而是几百年前就有的数学理论。只要熟悉NR和泰勒级数,你我同样有能力作出类似的优化。

在GameDev.net上有人做过测试,该函数的相对误差约为0.177585%,速度比C标准库的sqrt提高超过20%。如果增加一次迭代过程,相对误差可以降低到e-004 的级数,但速度也会降到和sqrt差不多。据说在DOOM3中,Carmack通过查找表进一步优化了该算法,精度近乎完美,而且速度也比原版提高了一截(正在努力弄源码,谁有发我一份)。

值得注意的是,在Chris Lomont的演算中,理论上最优秀的常数(精度最高)是0x5f37642f,并且在实际测试中,如果只使用一次迭代的话,其效果也是最好的。但奇怪的是,经过两次NR后,在该常数下解的精度将降低得非常厉害(天知道是怎么回事!)。经过实际的测试,Chris Lomont认为,最优秀的常数是0x5f375a86。如果换成64位的double版本的话,算法还是一样的,而最优常数则为0x5fe6ec85e7de30da(又一个令人冒汗的Magic Number - -b)。

这个算法依赖于浮点数的内部表示和字节顺序,所以是不具移植性的。如果放到Mac上跑就会挂掉。如果想具备可移植性,还是乖乖用sqrt好了。但算法思想是通用的。大家可以尝试推算一下相应的平方根算法。

下面给出Carmack在QUAKE3中使用的平方根算法。Carmack已经将QUAKE3的所有源代码捐给开源了,所以大家可以放心使用,不用担心会受到律师信。
---------------------------------
//
// Carmack在QUAKE3中使用的计算平方根的函数
//
float CarmSqrt(float x){
union{
int intPart;
float floatPart;
} convertor;
union{
int intPart;
float floatPart;
} convertor2;
convertor.floatPart = x;
convertor2.floatPart = x;
convertor.intPart = 0x1FBCF800 + (convertor.intPart >> 1);
convertor2.intPart = 0x5f3759df - (convertor2.intPart >> 1);
return 0.5f*(convertor.floatPart + (x * convertor2.floatPart));
}



使用特权

评论回复
14
computer00|  楼主 | 2017-6-1 18:17 | 只看该作者
Wh654321 发表于 2017-6-1 17:12
2009-06-10
John Carmack密码:0x5f3759df--Quake III的源代码分析 - [Code4Fun]
版权声明:转载时请以超链 ...

你转的这个贴里有好几处明显的错误,比起原贴那个分析来差远了。
例如他说“(M/2)*2^(E/2)正是(R>>1),”,显然这不对,原来E的最低位移到M的最高位去了,但他只做除2处理。
同时E是真正的指数加127的结果,这样直接除以2,明显不再是真正的指数除以2加127的结果。
另外他还说“2^(-E/2) - (M/2) * 2^(-E/2)”这个式子“的前半部分刚好是个常数”,2^(-E/2)它怎么可能
会是一个常数?
所以你转的这个贴,他的分析是错误的,并不能得到我们想要的结果。

使用特权

评论回复
15
Wh654321| | 2017-6-2 11:20 | 只看该作者
computer00 发表于 2017-6-1 18:17
你转的这个贴里有好几处明显的错误,比起原贴那个分析来差远了。
例如他说“(M/2)*2^(E/2)正是(R>>1),” ...

我转那个贴,只是想说:普渡大学的数学家Chris Lomont,早在2003年就将这个“魔数”写成论文了,至于你帖子那篇**有没有抄袭Chris Lomont,我就不得而知了。
我曾经下载过Chris Lomont的这篇论文,但我不搞计算机数论,也不太看得懂....
不过我转的那个帖,是人家2009年的博客,作者好像是计算机算法方面的博士,想来也不至于写出明显错误的推导公式....

使用特权

评论回复
16
computer00|  楼主 | 2017-6-2 16:45 | 只看该作者
Wh654321 发表于 2017-6-2 11:20
我转那个贴,只是想说:普渡大学的数学家Chris Lomont,早在2003年就将这个“魔数”写成论文了,至于你帖 ...

是不是有错,你对照我的分析看看就不就知道了?

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

个人签名:MAXHUB高效会议平台

246

主题

14693

帖子

210

粉丝