メモ：説明性の高いモデルをどう作るか

メモ：説明性の高いモデルをどう作るか#

目的変数\(y\)と説明変数\(X\)が線形の関係をしていることが仮定できるなら、線形回帰モデルでいい。

しかし、線形性を仮定できない場合は多いため、「高い説明性」と「非線形性」を併せ持つモデルを作りたい、というのが多くの分野での課題。

関数で変換して線形回帰 / 階層モデル#

非線形な部分を吸収する関数\(f(x)\)を使って、\(y\)と\(f(x)\)を線形な関係にしてから線形回帰する。

\[ y = \beta_0 + \sum_{j=1}^m \beta_j \cdot f_j(x_j) + \varepsilon \]

⭕️長所：

  • 説明の部分は回帰係数\(\beta_j\)を使えば良いので扱いやすい

❌️短所：

  • 関数\(f(x)\)をどう推定するかの問題

  • 関数\(f(x)\)が複雑になると、結局「\(x\)と\(y\)の関係性」については人間にとって理解しにくくなる

📄利用例：

  • MMM (marketing mix modeling) はこのパターンで、広告の残存効果などを非線形関数\(f\)にして、\(\beta f(X)\)の項で効果\(\beta\)を線形回帰で推定する

部分線形モデル#

\[ y = \beta D + g(X) + \varepsilon \]
Contents