法線の変換の話

オブジェクトの頂点をモデル座標系からワールド座標系に移すときに法線も一緒に変換する必要がある。
たとえば、シェーディングするときは法線が必要になるが、たいていライトはワールド座標系に存在しているため、法線もワールド座標系に移す必要がある。
他にも、法線をいろいろ利用するときは頂点と同じ座標系にあった方が都合が良い。

頂点について、モデル座標系からワールド座標系に移すときには何らかの変換行列を使って変換する。
しかし、頂点に対して作用する行列と同じものを法線に対して作用させてもうまくいかない。
まず、平行移動成分を除去しなければならない。法線は向きのみの量なので平行移動は関係ないからである。
回転移動成分についてはそのまま使うことが出来る。
拡大縮小などのスケーリング成分については、たとえば各頂点をX軸方向に3倍にする場合、法線はX軸方向に1/3倍にする必要がある。（最終的に正規化して長さは1にする）

これらの各要素を考慮しつつ法線を適切に変換するための行列を求めるには、頂点の変換行列の逆転置行列を求めればよい、ということが知られている。
まず、与えられた変換行列について、平行移動成分を除去する。これは4x4行列の左上3x3の成分を抜き出せばよい。
次に、この左上の成分の行列について、特異値分解を考える。
すると、という形に分解できる。ここで、特異値分解の性質よりは正規直交行列になる。
正規直交行列ということは標準基底の回転によって得られるということであり、これらの行列は回転行列として表現できるということになる。（本当は鏡像も考えなければならない気がするが、拡大縮小行列にまとめることができるので得られる結果は変わらない）
また、特異値分解の性質よりは対角行列になる。対角行列ということはは拡大縮小行列として表現できるということになる。
つまり、任意の3x3変換行列は回転行列と拡大縮小行列の積に分解できるということになる。

今回求めたい、法線に対する変換行列というのは、元の変換が回転の場合はそのまま同じ回転を作用させ、元の変換が拡大縮小の場合は逆数の分だけ拡大縮小するものである。
つまり回転行列についてはそれをそのまま作用させ、拡大縮小行列についてはその逆行列を作用させたいということになる。
今、なので、法線にたいして作用させるべき行列はである。
回転行列の転置行列は自身の逆行列と等しくなることと、拡大縮小行列の転置行列は自身と等しくなることから、
となる。
ここで、行列に対する転置はまとめることができる。ただし掛け算の順番は変わる。

同様に、逆行列もまとめることができる。やはり掛け算の順番は変わる。

よって、となるので、法線に対する変換行列は元の行列の逆転置行列となる。