回帰木の学習は分類木の学習と似ていますので、CART - 分類木の記事との違いだけ書きます。 分類木との違い 任意のノードにおける目的変数の算術平均を次式で定義します。回帰木における不純度を次式で定義します。は学習データの集合における目的変数の標本…

要件 組の学習データが与えられているとします。 番目の学習データの特徴ベクトルはと表されます。 クラス存在すると想定し、とします。このときです。 この学習データを使った分類木の学習アルゴリズムの一種CARTを以下で説明します。 不純度 各ノードに番…

import matplotlib.pyplot as plt from sklearn import datasets, tree from sklearn.metrics import accuracy_score, confusion_matrix from sklearn.metrics import precision_score, recall_score, f1_score # digitsデータをロード digits = datasets.lo…

この記事では決定木に関する用語などを説明します。 決定木とは 決定木とは木構造のモデルのことであり、 特に分類問題で用いられる決定木は分類木と呼ばれ、回帰問題で用いられる決定木は回帰木と呼ばれます。 分類木 例を挙げて説明します。 N組の学習デー…