2つのベジェ曲線の接続点に隣接する制御点の最適化

要件

2つのベジェ曲線 $P,Q$ があり、曲線 $P$ の終点と曲線 $Q$ の始点が等しいとします。
曲線 $P$ の制御点は ${\bf p}_0,{\bf p}_1,{\bf p}_2,{\bf p}_3$ とし、位置ベクトルは ${\bf p}(t)=(1-t)^3{\bf p}_0+3(1-t)^2t{\bf p}_1+3(1-t)t^2{\bf p}_2+t^3{\bf p}_3$ とし、
曲線 $Q$ の制御点は ${\bf q}_0,{\bf q}_1,{\bf q}_2,{\bf q}_3$ とし、位置ベクトルは ${\bf q}(t)=(1-s)^3{\bf q}_0+3(1-s)^2s{\bf q}_1+3(1-s)s^2{\bf q}_2+s^3{\bf q}_3$ とします。

曲線 $P$ の終点と曲線 $Q$ の始点が等しいので、以下が成り立ちます。

$\begin{eqnarray} {\bf p}_3={\bf q}_0\tag{1} \end{eqnarray}$

曲線 $P,Q$ に対応する2つの点列 $\{(t_m\in{\mathbb R},{\bf x}_m\in{\mathbb R}^2)\}_{m=1}^M,\ \{(s_n\in{\mathbb R},{\bf y}_n\in{\mathbb R}^2)\}_{n=1}^N$ を作成します。

制御点間の長さ $\alpha_p,\alpha_q$ を以下のように定義します。

$\begin{eqnarray} &&\alpha_p=||{\bf p}_2-{\bf p}_3||\tag{2}\\ &&\alpha_q=||{\bf q}_1-{\bf q}_0||\tag{3} \end{eqnarray}$

曲線 $P,Q$ が ${\bf p}_3={\bf q}_0$ でG1連続である時、 ${\bf p}_2-{\bf p}_3$ に平行なベクトルを ${\bf u}$ とおくと、

$\begin{eqnarray} &&{\bf p}_2={\bf p}_3+\alpha_p{\bf u}\tag{4}\\ &&{\bf q}_1={\bf q}_0-\alpha_q{\bf u}\tag{5} \end{eqnarray}$

が成り立ちます。

要件は「曲線 $P,Q$ のG1連続維持(式 $(4),(5)$ を満たす)しつつ、曲線 $P,Q$ がそれぞれ点列 $\{(t_m,{\bf x}_m\}_{m=1}^M,\ \{(s_n,{\bf y}_n)\}_{n=1}^N$ にフィットするような $\alpha_p,\ \alpha_q,\ {\bf u}$ を見つけること」です。

目的関数

目的関数 $\rm E$ を以下のように定義します。

$\begin{eqnarray} {\rm E}(\alpha_p,\alpha_q,u_x,u_y)&=&{\rm E}_p(\alpha_p,u_x,u_y)+{\rm E}_q(\alpha_q,u_x,u_y)\\ &=&{\rm E}_{px}(\alpha_p,u_x)+{\rm E}_{py}(\alpha_p,u_y)+{\rm E}_{qx}(\alpha_q,u_x)+{\rm E}_{qy}(\alpha_q,u_y)\tag{4} \end{eqnarray}$

式 $(4)$ で ${\rm E}_{p},\ {\rm E}_{q},\ {\rm E}_{px},\ {\rm E}_{py},\ {\rm E}_{qx},\ {\rm E}_{qy}$ を以下のようにおきました。

$\begin{eqnarray} &&{\rm E}_p(\alpha_p,u_x,u_y)={\rm E}_{px}(\alpha_p,u_x)+{\rm E}_{py}(\alpha_p,u_y)\tag{5}\\ &&{\rm E}_q(\alpha_q,u_x,u_y)={\rm E}_{qx}(\alpha_q,u_x)+{\rm E}_{qy}(\alpha_q,u_y)\tag{6}\\ &&{\rm E}_{px}(\alpha_p,u_x)=\sum_{m=1}^M\left(p_x(t_m)-x_{nx}\right)^2\tag{7}\\ &&{\rm E}_{py}(\alpha_p,u_y)=\sum_{m=1}^M\left(p_y(t_m)-x_{my}\right)^2\tag{8}\\ &&{\rm E}_{qx}(\alpha_q,u_x)=\sum_{n=1}^N\left(q_x(t_n)-y_{nx}\right)^2\tag{9}\\ &&{\rm E}_{qy}(\alpha_p,u_y)=\sum_{n=1}^N\left(q_y(t_n)-y_{ny}\right)^2\tag{10} \end{eqnarray}$

ニュートン法で解く

パラメータをまとめて ${\boldsymbol\theta}\in{\mathbb R}^4$ とおきます。

$\begin{eqnarray} {\boldsymbol\theta}= \begin{pmatrix} \alpha_p\\ \alpha_q\\ u_x\\ u_y \end{pmatrix}\tag{11} \end{eqnarray}$

${\boldsymbol\theta}$ はニュートン法は数値的に求めます。

$\begin{eqnarray} {\boldsymbol\theta}\leftarrow{\boldsymbol\theta} - \left(\dfrac{\partial^2{\rm E}}{\partial{\boldsymbol\theta}\partial{\boldsymbol\theta}^\top}\right)\dfrac{\partial{\rm E}}{\partial{\boldsymbol\theta}}\tag{12} \end{eqnarray}$

式 $(12)$ の $\dfrac{\partial^2{\rm E}}{\partial{\boldsymbol\theta}\partial{\boldsymbol\theta}^\top}$ はヘッセ行列で、 $\dfrac{\partial{\rm E}}{\partial{\boldsymbol\theta}}$ は勾配ベクトルです。

勾配ベクトルを求める

まずは、勾配ベクトルを求めていきます。

$\begin{eqnarray} \dfrac{\partial{\rm E}}{\partial{\boldsymbol\theta}}= \begin{pmatrix} \dfrac{\partial{\rm E}}{\partial\alpha_p}\\ \dfrac{\partial{\rm E}}{\partial\alpha_q}\\ \dfrac{\partial{\rm E}}{\partial u_x}\\ \dfrac{\partial{\rm E}}{\partial u_y}\tag{13} \end{pmatrix} \end{eqnarray}$

$\dfrac{\partial{\rm E}}{\partial\alpha_p}$ の計算

$\dfrac{\partial{\rm E}}{\partial\alpha_p}$ を計算します。

$\begin{eqnarray} &&\dfrac{\partial{\rm E}}{\partial\alpha_p}=\dfrac{\partial{\rm E}_{px}}{\partial\alpha_p}+\dfrac{\partial{\rm E}_{py}}{\partial\alpha_p}\tag{14} \end{eqnarray}$

$\dfrac{\partial{\rm E}_{px}}{\partial\alpha_p}$ を計算します。

$\begin{eqnarray} \dfrac{\partial{\rm E}_{px}}{\partial\alpha_p}&=&\dfrac{\partial}{\partial\alpha_p}\sum_{m=1}^M\left(p_x(t_m)-x_{mx}\right)^2\\ &=&\sum_{m=1}^M2\left(p_x(t_m)-x_{mx}\right)\cdot\dfrac{\partial}{\partial\alpha_p}\left(p_x(t_m)-x_{mx}\right)\\ &=&\sum_{m=1}^M2\left(p_x(t_m)-x_{mx}\right)\cdot\dfrac{\partial}{\partial\alpha_p}\left({\rm B}_0^3(t_m)p_{0x}+{\rm B}_1^3(t_m)p_{1x}+{\rm B}_2^3(t_m)p_{2x}+{\rm B}_3^3(t_m)p_{3x}-x_{mx}\right)\\ &=&\sum_{m=1}^M2\left(p_x(t_m)-x_{mx}\right)\cdot\dfrac{\partial}{\partial\alpha_p}\left({\rm B}_0^3(t_m)p_{0x}+{\rm B}_1^3(t_m)p_{1x}+{\rm B}_2^3(t_m)(p_{3x}+\alpha_p u_x)+{\rm B}_3^3(t_m)p_{3x}-x_{mx}\right)\\ &=&\sum_{m=1}^M2\left(p_x(t_m)-x_{mx}\right)\cdot\dfrac{\partial}{\partial\alpha_p}\left({\rm B}_0^3(t_m)p_{0x}+{\rm B}_1^3(t_m)p_{1x}+{\rm B}_2^3(t_m)p_{3x}+{\rm B}_2^3(t_m)\alpha_p u_x+{\rm B}_3^3(t_m)p_{3x}-x_{mx}\right)\\ &=&\sum_{m=1}^M2\left(p_x(t_m)-x_{mx}\right)\cdot \dfrac{\partial}{\partial\alpha_p} {\rm B}_2^3(t_m)\alpha_p u_x\\ &=&\sum_{m=1}^M2\left(p_x(t_m)-x_{mx}\right)\cdot {\rm B}_2^3(t_m)u_x\\ &=&2u_x\sum_{m=1}^M{\rm B}_2^3(t_m)\left(p_x(t_m)-x_{mx}\right)\\ &=&2u_x\sum_{m=1}^M{\rm B}_2^3(t_m)\left({\rm B}_0^3(t_m)p_{0x}+{\rm B}_1^3(t_m)p_{1x}+{\rm B}_2^3(t_m)(p_{3x}+\alpha_p u_x)+{\rm B}_3^3(t_m)p_{3x}-x_{mx}\right)\\ &=&2\left(\sum_{m=1}^M{\rm B}_2^3(t_m)^2\right)\alpha_p u_x^2+2\sum_{m=1}^M{\rm B}_2^3(t_m)\left({\rm B}_0^3(t_m)p_{0x}+{\rm B}_1^3(t_m)p_{1x}+{\rm B}_2^3(t_m)p_{3x}+{\rm B}_3^3(t_m)p_{3x}-x_{mx}\right)u_x\\ &=&{\rm A}_2\alpha_p u_x^2+{\rm B}_xu_x\tag{15} \end{eqnarray}$

$\dfrac{\partial{\rm E}_{py}}{\partial\alpha_p}$ を計算します。

$\begin{eqnarray} \dfrac{\partial{\rm E}_{py}}{\partial\alpha_p}&=&2\left(\sum_{m=1}^M{\rm B}_2^3(t_m)^2\right)\alpha_p u_y^2+2\sum_{m=1}^M{\rm B}_2^3(t_m)\left({\rm B}_0^3(t_m)p_{0y}+{\rm B}_1^3(t_m)p_{1y}+{\rm B}_2^3(t_m)p_{3y}+{\rm B}_3^3(t_m)p_{3y}-x_{my}\right)u_y\\ &=&{\rm A}_2\alpha_p u_y^2+{\rm B}_yu_y\tag{16} \end{eqnarray}$

式 $(15),(16)$ を式 $(14)$ に代入します。

$\begin{eqnarray} \dfrac{\partial{\rm E}}{\partial\alpha_p}={\rm A}_2\alpha_p u_x^2+ {\rm B}_xu_x+{\rm A}_2\alpha_p u_y^2+{\rm B}_yu_y\tag{17} \end{eqnarray}$

$\dfrac{\partial{\rm E}}{\partial\alpha_q}$ の計算

$\dfrac{\partial{\rm E}}{\partial\alpha_q}$ を計算します。

$\begin{eqnarray} &&\dfrac{\partial{\rm E}}{\partial\alpha_q}=\dfrac{\partial{\rm E}_{qx}}{\partial\alpha_q}+\dfrac{\partial{\rm E}_{qy}}{\partial\alpha_q}\tag{18} \end{eqnarray}$

$\dfrac{\partial{\rm E}_{qx}}{\partial\alpha_q}$ を計算します。

$\begin{eqnarray} \dfrac{\partial{\rm E}_{qx}}{\partial\alpha_q}&=&\dfrac{\partial}{\partial\alpha_p}\sum_{n=1}^N\left(q_x(t_n)-y_{nx}\right)^2\\ &=&\sum_{n=1}^N2\left(q_x(t_n)-y_{nx}\right)\cdot\dfrac{\partial}{\partial\alpha_q}\left(q_x(t_n)-y_{nx}\right)\\ &=&\sum_{n=1}^N2\left(q_x(t_n)-y_{nx}\right)\cdot\dfrac{\partial}{\partial\alpha_q}\left({\rm B}_0^3(t_n)q_{0x}+{\rm B}_1^3(t_n)q_{1x}+{\rm B}_2^3(t_n)q_{2x}+{\rm B}_3^3(t_n)q_{3x}-y_{nx}\right)\\ &=&\sum_{n=1}^N2\left(q_x(t_n)-y_{nx}\right)\cdot\dfrac{\partial}{\partial\alpha_q}\left({\rm B}_0^3(t_n)q_{0x}+{\rm B}_1^3(t_n)(q_{0x}-\alpha_q u_x)+{\rm B}_2^3(t_n)q_{2x}+{\rm B}_3^3(t_n)q_{3x}-y_{nx}\right)\\ &=&\sum_{n=1}^N2\left(q_x(t_n)-y_{nx}\right)\cdot\dfrac{\partial}{\partial\alpha_q}\left({\rm B}_0^3(t_n)q_{0x}+{\rm B}_1^3(t_n)q_{0x}-{\rm B}_1^3(t_n)\alpha_q u_x+{\rm B}_2^3(t_n)q_{2x}+{\rm B}_3^3(t_n)q_{3x}-y_{nx}\right)\\ &=&\sum_{n=1}^N2\left(q_x(t_n)-y_{nx}\right)\cdot \dfrac{\partial}{\partial\alpha_q}(-{\rm B}_1^3(t_n)u_x\alpha_q)\\ &=&\sum_{n=1}^N2\left(q_x(t_n)-y_{nx}\right)\cdot (-{\rm B}_1^3(t_n)u_x)\\ &=&-2u_x\sum_{n=1}^n{\rm B}_1^3(t_n)\left(q_x(t_n)-y_{nx}\right)\\ &=&-2u_x\sum_{n=1}^N{\rm B}_1^3(t_n)\left({\rm B}_0^3(t_n)q_{0x}+{\rm B}_1^3(t_n)q_{0x}-{\rm B}_1^3(t_n)\alpha_q u_x +{\rm B}_2^3(t_n)q_{2x}+{\rm B}_3^3(t_n)q_{3x}-y_{nx}\right)\\ &=&-2\left(\sum_{n=1}^N{\rm B}_1^3(t_n)^2\right)\alpha_q u_x^2-2\sum_{n=1}^N{\rm B}_1^3(t_n)\left({\rm B}_0^3(t_n)q_{0x}+{\rm B}_1^3(t_n)q_{0x}+{\rm B}_2^3(t_n)q_{2x}+{\rm B}_3^3(t_n)q_{3x}-y_{nx}\right)u_x\\ &=&-{\rm A}_1\alpha_q u_x^2-{\rm C}_xu_x\tag{19} \end{eqnarray}$

$\dfrac{\partial{\rm E}_{qy}}{\partial\alpha_q}$ を計算します。

$\begin{eqnarray} \dfrac{\partial{\rm E}_{qy}}{\partial\alpha_q}&=&-2\left(\sum_{n=1}^N{\rm B}_1^3(t_n)^2\right)\alpha_q u_y^2-2\sum_{n=1}^N{\rm B}_1^3(t_n)\left({\rm B}_0^3(t_n)q_{0y}+{\rm B}_1^3(t_n)q_{0y}+{\rm B}_2^3(t_n)q_{2y}+{\rm B}_3^3(t_n)q_{3y}-y_{ny}\right)u_y\\ &=&-{\rm A}_1\alpha_q u_y^2-{\rm C}_yu_y\tag{20} \end{eqnarray}$

式 $(19),(20)$ を式 $(18)$ に代入します。

$\begin{eqnarray} &&\dfrac{\partial{\rm E}}{\partial\alpha_q}=-{\rm A}_1\alpha_q u_x^2-{\rm C}_xu_x-{\rm A}_1\alpha_q u_y^2-{\rm C}_yu_y\tag{21} \end{eqnarray}$

$\dfrac{\partial{\rm E}}{\partial u_x}$ の計算

$\dfrac{\partial{\rm E}}{\partial u_x}$ を計算します。

$\begin{eqnarray} \dfrac{\partial{\rm E}}{\partial u_x}=\dfrac{\partial{\rm E}_{px}}{\partial u_x}+\dfrac{\partial{\rm E}_{qx}}{\partial u_x}\tag{22} \end{eqnarray}$

$\dfrac{\partial{\rm E}_{px}}{\partial u_x}$ を計算します。

$\begin{eqnarray} \dfrac{\partial{\rm E}_{px}}{\partial u_x}={\rm A}_2\alpha_p^2 u_x+{\rm B}_x\alpha_p\tag{23} \end{eqnarray}$

$\dfrac{\partial{\rm E}_{qx}}{\partial u_x}$ を計算します。

$\begin{eqnarray} \dfrac{\partial{\rm E}_{qx}}{\partial u_x}=-{\rm A}_1\alpha_q^2 u_x-{\rm C}_x\alpha_q\tag{24} \end{eqnarray}$

式 $(23),(24)$ を式 $(22)$ に代入します。

$\begin{eqnarray} \dfrac{\partial{\rm E}}{\partial u_x}={\rm A}_2\alpha_p^2 u_x+{\rm B}_x\alpha_p-{\rm A}_1\alpha_q^2 u_x-{\rm C}_x\alpha_q\tag{25} \end{eqnarray}$

$\dfrac{\partial{\rm E}}{\partial u_y}$ の計算

$\dfrac{\partial{\rm E}}{\partial u_y}$ を計算します。

$\begin{eqnarray} \dfrac{\partial{\rm E}}{\partial u_y}=\dfrac{\partial{\rm E}_{py}}{\partial u_y}+\dfrac{\partial{\rm E}_{qy}}{\partial u_y}\tag{26} \end{eqnarray}$

$\dfrac{\partial{\rm E}_{py}}{\partial u_y}$ を計算します。

$\begin{eqnarray} \dfrac{\partial{\rm E}_{py}}{\partial u_y}={\rm A}_2\alpha_p^2 u_y+{\rm B}_y\alpha_p\tag{27} \end{eqnarray}$

$\dfrac{\partial{\rm E}_{qy}}{\partial u_y}$ を計算します。

$\begin{eqnarray} \dfrac{\partial{\rm E}_{qy}}{\partial u_y}=-{\rm A}_1\alpha_q^2 u_y-{\rm C}_y\alpha_q\tag{28} \end{eqnarray}$

式 $(27),(28)$ を式 $(26)$ に代入します。

$\begin{eqnarray} \dfrac{\partial{\rm E}}{\partial u_y}={\rm A}_2\alpha_p^2 u_y+{\rm B}_y\alpha_p-{\rm A}_1\alpha_q^2 u_y-{\rm C}_y\alpha_q\tag{29} \end{eqnarray}$

ヘッセ行列を求める

次に、ヘッセ行列を求めていきます。

$\begin{eqnarray} \dfrac{\partial^2{\rm E}}{\partial{\boldsymbol\theta}\partial{\boldsymbol\theta}^\top}= \begin{pmatrix} \dfrac{\partial^2{\rm E}}{\partial\alpha_p^2} & \dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial\alpha_q} & \dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial u_x} & \dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial u_y}\\ \dfrac{\partial^2{\rm E}}{\partial\alpha_q\partial\alpha_p} & \dfrac{\partial^2{\rm E}}{\partial\alpha_q^2} & \dfrac{\partial^2{\rm E}}{\partial\alpha_q\partial u_x} & \dfrac{\partial^2{\rm E}}{\partial\alpha_q\partial u_y}\\ \dfrac{\partial^2{\rm E}}{\partial u_x\partial\alpha_p} & \dfrac{\partial^2{\rm E}}{\partial u_x\partial\alpha_q} & \dfrac{\partial^2{\rm E}}{\partial u_x^2} & \dfrac{\partial^2{\rm E}}{\partial u_x\partial u_y}\\ \dfrac{\partial^2{\rm E}}{\partial u_y\partial\alpha_p} & \dfrac{\partial^2{\rm E}}{\partial u_y\partial\alpha_q} & \dfrac{\partial^2{\rm E}}{\partial u_y\partial u_x} & \dfrac{\partial^2{\rm E}}{\partial u_y^2} \end{pmatrix}\tag{30} \end{eqnarray}$

$\dfrac{\partial^2{\rm E}}{\partial\alpha_p^2},\dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial\alpha_q},\dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial u_x},\dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial u_y}$ の計算

$\dfrac{\partial^2{\rm E}}{\partial\alpha_p^2}$ を計算します。

$\begin{eqnarray} \dfrac{\partial^2{\rm E}}{\partial\alpha_p^2}&=&\dfrac{\partial}{\partial\alpha_p}\left(\dfrac{\partial{\rm E}}{\partial\alpha_p}\right)\\ &=&\dfrac{\partial}{\partial\alpha_p}\left({\rm A}_2\alpha_p u_x^2+ {\rm B}_xu_x+{\rm A}_2\alpha_p u_y^2+{\rm B}_yu_y\right)\\ &=&\dfrac{\partial}{\partial\alpha_p}{\rm A}_2\alpha_p u_x^2+\dfrac{\partial}{\partial\alpha_p}{\rm A}_2\alpha_p u_y^2\\ &=&{\rm A}_2u_x^2+{\rm A}_2u_y^2\tag{31} \end{eqnarray}$

$\dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial\alpha_q}$ を計算します。

$\begin{eqnarray} \dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial\alpha_q}&=&\dfrac{\partial}{\partial\alpha_p}\left(\dfrac{\partial{\rm E}}{\partial\alpha_q}\right)\\ &=&\dfrac{\partial}{\partial\alpha_p}\left(-{\rm A}_1\alpha_q u_x^2-{\rm C}_xu_x-{\rm A}_1\alpha_q u_y^2-{\rm C}_yu_y\right)\\ &=&0\tag{32} \end{eqnarray}$

$\dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial u_x}$ を計算します。

$\begin{eqnarray} \dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial u_x}&=&\dfrac{\partial}{\partial\alpha_p}\left(\dfrac{\partial{\rm E}}{\partial u_x}\right)\\ &=&\dfrac{\partial}{\partial\alpha_p}\left({\rm A}_2\alpha_p^2 u_x+{\rm B}_x\alpha_p-{\rm A}_1\alpha_q^2 u_x-{\rm C}_x\alpha_q\right)\\ &=&\dfrac{\partial}{\partial\alpha_p}{\rm A}_2\alpha_p^2 u_x+\dfrac{\partial}{\partial\alpha_p}{\rm B}_x\alpha_p\\ &=&2{\rm A}_2\alpha_p u_x+{\rm B}_x\tag{33} \end{eqnarray}$

$\dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial u_y}$ を計算します。

$\begin{eqnarray} \dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial u_y}&=&\dfrac{\partial}{\partial\alpha_p}\left(\dfrac{\partial{\rm E}}{\partial u_y}\right)\\ &=&\dfrac{\partial}{\partial\alpha_p}\left({\rm A}_2\alpha_p^2 u_y+{\rm B}_y\alpha_p-{\rm A}_1\alpha_q^2 u_y-{\rm C}_y\alpha_q\right)\\ &=&\dfrac{\partial}{\partial\alpha_p}{\rm A}_2\alpha_p^2 u_y+\dfrac{\partial}{\partial\alpha_p}{\rm C}_y\alpha_p\\ &=&2{\rm A}_2\alpha_p u_y+{\rm C}_y\tag{34} \end{eqnarray}$

$\dfrac{\partial^2{\rm E}}{\partial\alpha_q^2},\dfrac{\partial^2{\rm E}}{\partial\alpha_q\partial u_x},\dfrac{\partial^2{\rm E}}{\partial\alpha_q\partial u_y}$ の計算

$\dfrac{\partial^2{\rm E}}{\partial\alpha_q^2}$ を計算します。

$\begin{eqnarray} \dfrac{\partial^2{\rm E}}{\partial\alpha_q^2}&=&\dfrac{\partial}{\partial\alpha_q}\left(\dfrac{\partial{\rm E}}{\partial\alpha_q}\right)\\ &=&\dfrac{\partial}{\partial\alpha_q}\left(-{\rm A}_1\alpha_q u_x^2-{\rm C}_xu_x-{\rm A}_1\alpha_q u_y^2-{\rm C}_yu_y\right)\\ &=&-\dfrac{\partial}{\partial\alpha_q}{\rm A}_1\alpha_q u_x^2-\dfrac{\partial}{\partial\alpha_q}{\rm A}_1\alpha_q u_y^2\\ &=&-{\rm A}_1 u_x^2-{\rm A}_1u_y^2\tag{35} \end{eqnarray}$

$\dfrac{\partial^2{\rm E}}{\partial\alpha_q\partial u_x}$ を計算します。

$\begin{eqnarray} \dfrac{\partial^2{\rm E}}{\partial\alpha_q\partial u_x}&=&\dfrac{\partial}{\partial\alpha_q}\left(\dfrac{\partial{\rm E}}{\partial u_x}\right)\\ &=&\dfrac{\partial}{\partial\alpha_q}\left({\rm A}_2\alpha_p^2 u_x+{\rm B}_x\alpha_p-{\rm A}_1\alpha_q^2 u_x-{\rm C}_x\alpha_q\right)\\ &=&-\dfrac{\partial}{\partial\alpha_q}{\rm A}_1\alpha_q^2 u_x-\dfrac{\partial}{\partial\alpha_q}{\rm C}_x\alpha_q\\ &=&-2{\rm A}_1\alpha_q u_x-{\rm C}_x\tag{36} \end{eqnarray}$

$\dfrac{\partial^2{\rm E}}{\partial\alpha_q\partial u_y}$ を計算します。

$\begin{eqnarray} \dfrac{\partial^2{\rm E}}{\partial\alpha_q\partial u_y}&=&\dfrac{\partial}{\partial\alpha_q}\left(\dfrac{\partial{\rm E}}{\partial u_y}\right)\\ &=&\dfrac{\partial}{\partial\alpha_q}\left({\rm A}_2\alpha_p^2 u_y+{\rm B}_y\alpha_p-{\rm A}_1\alpha_q^2 u_y-{\rm C}_y\alpha_q\right)\\ &=&-\dfrac{\partial}{\partial\alpha_q}{\rm A}_1\alpha_q^2 u_y-\dfrac{\partial}{\partial\alpha_q}{\rm C}_y\alpha_q\\ &=&-2{\rm A}_1\alpha_q u_y-{\rm C}_y\tag{37} \end{eqnarray}$

$\dfrac{\partial^2{\rm E}}{\partial u_x^2},\dfrac{\partial^2{\rm E}}{\partial u_x\partial u_y}$ の計算

$\dfrac{\partial^2{\rm E}}{\partial u_x^2}$ を計算します。

$\begin{eqnarray} \dfrac{\partial^2{\rm E}}{\partial u_x^2}&=&\dfrac{\partial}{\partial u_x}\left(\dfrac{\partial{\rm E}}{\partial u_x}\right)\\ &=&\dfrac{\partial}{\partial u_x}\left({\rm A}_2\alpha_p^2 u_x+{\rm B}_x\alpha_p-{\rm A}_1\alpha_q^2 u_x-{\rm C}_x\alpha_q\right)\\ &=&\dfrac{\partial}{\partial u_x}{\rm A}_2\alpha_p^2 u_x-\dfrac{\partial}{\partial u_x}{\rm A}_1\alpha_q^2 u_x\\ &=&{\rm A}_2\alpha_p^2-{\rm A}_1\alpha_q^2\tag{38} \end{eqnarray}$

$\dfrac{\partial^2{\rm E}}{\partial u_x\partial u_y}$ を計算します。

$\begin{eqnarray} \dfrac{\partial^2{\rm E}}{\partial u_x\partial u_y}&=&\dfrac{\partial}{\partial u_x}\left(\dfrac{\partial{\rm E}}{\partial u_y}\right)\\ &=&\dfrac{\partial}{\partial u_x}\left({\rm A}_2\alpha_p^2 u_y+{\rm B}_y\alpha_p-{\rm A}_1\alpha_q^2 u_y-{\rm C}_y\alpha_q\right)\\ &=&0\tag{39} \end{eqnarray}$

$\dfrac{\partial^2{\rm E}}{\partial u_y^2}$ の計算

$\dfrac{\partial^2{\rm E}}{\partial u_y^2}$ を計算します。

$\begin{eqnarray} \dfrac{\partial^2{\rm E}}{\partial u_y^2}&=&\dfrac{\partial}{\partial u_y}\left(\dfrac{\partial{\rm E}}{\partial u_y}\right)\\ &=&\dfrac{\partial}{\partial u_y}\left({\rm A}_2\alpha_p^2 u_y+{\rm B}_y\alpha_p-{\rm A}_1\alpha_q^2 u_y-{\rm C}_y\alpha_q\right)\\ &=&\dfrac{\partial}{\partial u_y}{\rm A}_2\alpha_p^2 u_y-\dfrac{\partial}{\partial u_y}{\rm A}_1\alpha_q^2 u_y\\ &=&{\rm A}_2\alpha_p^2-{\rm A}_1\alpha_q^2\tag{40} \end{eqnarray}$

ニュートン法による更新式

$\begin{eqnarray} {\boldsymbol\theta}&\leftarrow&{\boldsymbol\theta} - \begin{pmatrix} \dfrac{\partial^2{\rm E}}{\partial\alpha_p^2} & \dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial\alpha_q} & \dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial u_x} & \dfrac{\partial^2{\rm E}}{\partial\alpha_p\partial u_y}\\ \dfrac{\partial^2{\rm E}}{\partial\alpha_q\partial\alpha_p} & \dfrac{\partial^2{\rm E}}{\partial\alpha_q^2} & \dfrac{\partial^2{\rm E}}{\partial\alpha_q\partial u_x} & \dfrac{\partial^2{\rm E}}{\partial\alpha_q\partial u_y}\\ \dfrac{\partial^2{\rm E}}{\partial u_x\partial\alpha_p} & \dfrac{\partial^2{\rm E}}{\partial u_x\partial\alpha_q} & \dfrac{\partial^2{\rm E}}{\partial u_x^2} & \dfrac{\partial^2{\rm E}}{\partial u_x\partial u_y}\\ \dfrac{\partial^2{\rm E}}{\partial u_y\partial\alpha_p} & \dfrac{\partial^2{\rm E}}{\partial u_y\partial\alpha_q} & \dfrac{\partial^2{\rm E}}{\partial u_y\partial u_x} & \dfrac{\partial^2{\rm E}}{\partial u_y^2} \end{pmatrix}^{-1} \begin{pmatrix} \dfrac{\partial{\rm E}}{\partial\alpha_p}\\ \dfrac{\partial{\rm E}}{\partial\alpha_q}\\ \dfrac{\partial{\rm E}}{\partial u_x}\\ \dfrac{\partial{\rm E}}{\partial u_y} \end{pmatrix}\\ &=&{\boldsymbol\theta} - \begin{pmatrix} {\rm A}_2u_x^2+{\rm A}_2u_y^2 & 0 & 2{\rm A}_2\alpha_p u_x+{\rm B}_x & 2{\rm A}_2\alpha_p u_y+{\rm C}_y\\ 0 & -{\rm A}_1 u_x^2-{\rm A}_1u_y^2 & -2{\rm A}_1\alpha_q u_x-{\rm C}_x & -2{\rm A}_1\alpha_q u_y-{\rm C}_y\\ 2{\rm A}_2\alpha_p u_x+{\rm B}_x & -2{\rm A}_1\alpha_q u_x-{\rm C}_x & {\rm A}_2\alpha_p^2-{\rm A}_1\alpha_q^2 & 0\\ 2{\rm A}_2\alpha_p u_y+{\rm C}_y & -2{\rm A}_1\alpha_q u_y-{\rm C}_y & 0 & {\rm A}_2\alpha_p^2-{\rm A}_1\alpha_q^2 \end{pmatrix}^{-1} \begin{pmatrix} {\rm A}_2\alpha_p u_x^2+ {\rm B}_xu_x+{\rm A}_2\alpha_p u_y^2+{\rm B}_yu_y\\ -{\rm A}_1\alpha_q u_x^2-{\rm C}_xu_x-{\rm A}_1\alpha_q u_y^2-{\rm C}_yu_y\\ {\rm A}_2\alpha_p^2 u_x+{\rm B}_x\alpha_p-{\rm A}_1\alpha_q^2 u_x-{\rm C}_x\alpha_q\\ {\rm A}_2\alpha_p^2 u_y+{\rm B}_y\alpha_p-{\rm A}_1\alpha_q^2 u_y-{\rm C}_y\alpha_q \end{pmatrix} \end{eqnarray}$

機械学習基礎理論独習

誤りがあればご指摘いただけると幸いです。数式が整うまで少し時間かかります。リンクフリーです。