Mondrian Forests#
Mondrian Forests(Lakshminarayanan et al., 2014)は、Mondrian Processという確率過程を使ってOnline Learningする計算効率の高いRandom Forests。
Mondrian Process#
Roy & Teh (2009). The Mondrian Process.
KD-treeデータ構造上の確率分布として解釈できる確率過程
名前は画家のピート・モンドリアンから来ている様子
Mondrian Forests#
Mondrian Processで生成した矩形で分割したTreeを作る
解説記事#
Balog & Teh (2015). The Mondrian process for machine learning.
オックスフォード大のMondrian Process / Forestsの丁寧なレポート
統計的推測#
回帰関数の信頼区間が構築できるらしい
Cattaneo et al. (2023). Inference with Mondrian Random Forests.
改善#
村田ほか. (2016). 教師あり学習の導入による Mondrian Forests の効率化.
Mondrian Forests は学習時に教師ラベルを用いないため,不要なノードを追加することがある
教師あり学習を導入し,木構造の構築に必要なノード数を削減することで,メモリ量を抑えた効率的な学習法を提案する
提案手法は従来法と比較してノード数を約 68%削減できることを確認した.