内積とノルム

内積

ベクトル ${\bf a}=\begin{pmatrix}a_i\end{pmatrix},{\bf b}=\begin{pmatrix}b_i\end{pmatrix}$ の内積 $\langle{\bf a},{\bf b}\rangle$ を次のように定義します。

$\begin{eqnarray} \langle{\bf a},{\bf b}\rangle={\bf a}^\top{\bf b}=\sum_{i=1}^n a_ib_i\end{eqnarray}\tag{1}$

これは次の性質を持ちます。
(i)    $\langle{\bf a},{\bf b}\rangle=\langle{\bf b},{\bf a}\rangle$                                        対称性
(ii)   $\langle{\bf a},\alpha{\bf b}+\beta{\bf c}\rangle=\alpha\langle{\bf a},{\bf b}\rangle+\beta\langle{\bf b},{\bf c}\rangle,$     線形性
       $\alpha,\beta$ は任意の実数
(iii) $\langle{\bf a},{\bf a}\rangle\geq0,$ 等号は ${\bf a}={\bf 0}$ の時のみ           正値性

ノルム

ベクトル ${\bf a}=\begin{pmatrix}a_i\end{pmatrix}$ のノルム $||{\bf a}||$ を次のように定義します。

$\begin{eqnarray} ||{\bf a}||=\sqrt{\langle{\bf a},{\bf a}\rangle}=\sqrt{\sum_{i=1}^na_i^2}\tag{2} \end{eqnarray}$

ノルムが1のベクトルを単位ベクトルといいます。
ノルムは次の性質を持ちます。

(i) $||{\bf a}||\geq 0,$ 等号は ${\bf a}={\bf 0}$ のときのみ                    正値性
(ii)   $-||{\bf a}||\cdot||{\bf b}||\leq\langle{\bf a},{\bf b}\rangle\leq||{\bf a}||\cdot||{\bf b}||$             シュワルツの不等式(コーシー・シュワルツの不等式とも言う)
(iii)    $||{\bf a}||-||{\bf b}||\leq||{\bf a}+{\bf b}||\leq||{\bf a}||+||{\bf b}||$     三角不等式

ベクトル ${\bf a},{\bf b}$ は $\langle{\bf a},{\bf b}\rangle=0$ のとき、直交するといいます。
$\langle{\bf a},{\bf b}\rangle=0$ であれば、次の三平方の定理が得られます。

$\begin{eqnarray} ||{\bf a}-{\bf b}||^2&=&||{\bf a}||^2-2||{\bf a}||\cdot||{\bf b}||+||{\bf b}||^2\\ &=&||{\bf a}||^2+||{\bf b}||^2\\ &=&||{\bf a}+{\bf b}||^2\tag{3} \end{eqnarray}$

シュワルツの不等式の証明

次の $t$ の2次式を考えます。

$\begin{eqnarray} f(t)=||{\bf a}-t{\bf b}||^2\tag{4} \end{eqnarray}$

$(4)$ を展開します。

$\begin{eqnarray} f(t)&=&||{\bf a}||^2-2t\langle{\bf a},{\bf b}\rangle+t^2||{\bf b}||^2\\ &=&t^2||{\bf b}||^2-2t\langle{\bf a},{\bf b}\rangle+||{\bf a}||^2\geq 0\tag{5} \end{eqnarray}$

$(5)$ で $\geq 0$ となっているのはノルムの定義からです。
$(5)$ が任意の $t$ で成り立つための必要十分条件は、判別式 $D$ が0又は負であることです。

$\begin{eqnarray} &&D\leq0\\ &&\Leftrightarrow\langle{\bf a},{\bf b}\rangle^2-||{\bf a}||^2||{\bf b}||^2\leq0\\ &&\Leftrightarrow\langle{\bf a},{\bf b}\rangle^2\leq||{\bf a}||^2||{\bf b}||^2\\ &&\Leftrightarrow-||{\bf a}||\cdot||{\bf b}||\leq\langle{\bf a},{\bf b}\rangle\leq||{\bf a}||\cdot||{\bf b}||\tag{6} \end{eqnarray}$

三角不等式の証明

まず、 $||{\bf a}||-||{\bf b}||\leq||{\bf a}+{\bf b}||$ を示します。

$\begin{eqnarray} ||{\bf a}+{\bf b}||^2&=&\langle{\bf a}+{\bf b},{\bf a}+{\bf b}\rangle\\ &=&||{\bf a}||^2+2\langle{\bf a},{\bf b}\rangle+||{\bf b}||^2\\ &\geq&||{\bf a}||^2-2||{\bf a}||\cdot||{\bf b}||+||{\bf b}||^2\\ &=&(||{\bf a}||-||{\bf b}||)^2\tag{7} \end{eqnarray}$

$(7)$ より、 $||{\bf a}||-||{\bf b}||\leq||{\bf a}+{\bf b}||$ が示せました。

次に、 $||{\bf a}+{\bf b}||\leq||{\bf a}||+||{\bf b}||$ を示します。

$\begin{eqnarray} ||{\bf a}+{\bf b}||^2&=&\langle{\bf a}+{\bf b},{\bf a}+{\bf b}\rangle\\ &=&||{\bf a}||^2+2\langle{\bf a},{\bf b}\rangle+||{\bf b}||^2\\ &\leq&||{\bf a}||^2+2||{\bf a}||\cdot||{\bf b}||+||{\bf b}||^2\\ &=&(||{\bf a}||+||{\bf b}||)^2\tag{8} \end{eqnarray}$