Mondrian Forests#

Mondrian ForestsLakshminarayanan et al., 2014)は、Mondrian Processという確率過程を使ってOnline Learningする計算効率の高いRandom Forests。

Mondrian Process#

Roy & Teh (2009). The Mondrian Process.

KD-treeデータ構造上の確率分布として解釈できる確率過程

名前は画家のピート・モンドリアンから来ている様子

Mondrian Forests#

Mondrian Processで生成した矩形で分割したTreeを作る

解説記事#

Balog & Teh (2015). The Mondrian process for machine learning.

  • オックスフォード大のMondrian Process / Forestsの丁寧なレポート

統計的推測#

回帰関数の信頼区間が構築できるらしい

Cattaneo et al. (2023). Inference with Mondrian Random Forests.

改善#

村田ほか. (2016). 教師あり学習の導入による Mondrian Forests の効率化.

  • Mondrian Forests は学習時に教師ラベルを用いないため,不要なノードを追加することがある

  • 教師あり学習を導入し,木構造の構築に必要なノード数を削減することで,メモリ量を抑えた効率的な学習法を提案する

  • 提案手法は従来法と比較してノード数を約 68%削減できることを確認した.

参考文献#