法線行列とは
光源の方向ベクトルと点の法線ベクトルから輝度を計算しますが、その時の座標系はビュー座標系であることが多いはずです。
法線ベクトルは方向ベクトルなので、モデルビュー行列をそのまま掛けるわけにはいきませんし、
異方性のある拡大縮小やせん断を行っているとモデルビュー行列を3x3(4行目と4列目を無視)にしてもダメです。
(※これ逆に言うと、異方性の無い拡大縮小かつせん断をしていない場合は、モデルビュー行列を3x3にしてかければよいことになります。)
法線ベクトルを変換してくれる行列を求める必要があります。それを法線行列といいます。
導出
面の法線ベクトルを 、面の2点の頂点座標の差として計算できる表面ベクトルを とします。
法線行列に法線ベクトルを掛けるときは、第4成分を0にして掛けてください。
最後に
異方性のある拡大縮小やせん断って私はモデル行列に使うことはないです。
また、ビュー行列は回転行列と平行移動行列からなる剛体変換行列です。
よって、普通にアプリを作成する分には法線行列は不要かと思います。
ですが、念のため法線行列を計算して、GPUに渡す癖をつけても悪くないとも思います。
参考
初めてのWebGL2 p135-p136