アルゴリズム
三角形の頂点の位置ベクトルを 、線分の端点の位置ベクトルを とします。
三角形の頂点を通る平面の法線ベクトル を求めます。
線分の端点が2つとも平面上に無く、 が同じ符号であるとき、交点なしとします。
この交点を2次元に変換します。やり方は平面の法線ベクトルの一番大きい成分以外を採用するという方法です。
以降、 は2次元とします。
2次元で交点が三角形の内部あるか判定をします。
三角形の頂点数分以下を計算します。( は を3で割ったときの余りとします) となる の除いた が全て同じ符号の時に三角形の内部に交点があるとします。
最後に
これも図が無いですね。これは書いたほうが良いかなと思います。いずれ書きます。