Mondrian Forests

Mondrian Forests（Lakshminarayanan et al., 2014）は、Mondrian Processという確率過程を使ってOnline Learningする計算効率の高いRandom Forests。

Mondrian Process¶

Roy & Teh (2009). The Mondrian Process.

KD-treeデータ構造上の確率分布として解釈できる確率過程

名前は画家のピート・モンドリアンから来ている様子

Mondrian Forests¶

Mondrian Processで生成した矩形で分割したTreeを作る

解説記事¶

Balog & Teh (2015). The Mondrian process for machine learning.

• オックスフォード大のMondrian Process / Forestsの丁寧なレポート

統計的推測¶

回帰関数の信頼区間が構築できるらしい

Cattaneo et al. (2023). Inference with Mondrian Random Forests.

改善¶

村田ほか. (2016). 教師あり学習の導入による Mondrian Forests の効率化.

• Mondrian Forests は学習時に教師ラベルを用いないため，不要なノードを追加することがある

• 教師あり学習を導入し，木構造の構築に必要なノード数を削減することで，メモリ量を抑えた効率的な学習法を提案する

• 提案手法は従来法と比較してノード数を約 68%削減できることを確認した．

参考文献¶

• Lakshminarayanan, B., Roy, D. M., & Teh, Y. W. (2014). Mondrian forests: Efficient online random forests. Advances in neural information processing systems, 27.

• Roy, D. M., & Teh, Y. W. (2009). The Mondrian Process.

• Cattaneo, M. D., Klusowski, J. M., & Underwood, W. G. (2023). Inference with Mondrian Random Forests.