http://blog.csdn.net/xiajun07061225/article/details/7762711

在图形学中，同样的一个模型视图变换矩阵可以用来变换点、线、多边形以及其它几何体，也可以变换多边形表面的切向量。比如：

posEyeSpace = ModelViewMatrix * posModelSpace。

但是，同样的方式通常却不能够用于法线的变换（注意：在有些情况下是可以的）。

 

一、法线和顶点坐标的区别

 

顶点坐标<x,y,z>表示缺省的<x,y,z,1>，而法线向量的<x,y,z>表示缺省的<x,y,z,0>。

法线向量只能保证方向的一致性，而不能保证位置的一致性。

 

下面我们通过一个例子来看看问题所在。

上图是针对一个多边形以及一条边上的法线进行缩放变换：X轴上缩放为原来的0.5倍。左边是变换前的状态，中间是将同样的模型变换矩阵应用在法线上的结果，显然是错的，法线并不垂直于切线。最右边的图是正确的结果。

 

二、法线变换：应该用变换矩阵的逆转置矩阵

 

假设Model space中的某条切线向量是T，法线向量是N。那么由他们是垂直的可得到：T^TN=0

假设他们变换到Eye space中后分别是T'和N'。那么他们应该仍然是相互垂直的：T’^TN’=0

假设切线向量和法线的变换矩阵为M、G。则有：(MT)^T(GN)=0

 

进一步推出：T^TM^TGN=0

由于T^TN=0，因此我们猜想M^TG=0.因此：《注：我觉得这里该写 M^TG=E. E:为单位矩阵》

 

G=(M^-1)^T

即：应用于法线向量的变换矩阵是顶点变换矩阵的逆转置矩阵。