Factorization Machines#
レコメンドにおける協調フィルタリングのようなスパースなデータに対して、SVMは信頼できる識別超平面を構築できない。そのような状況でも使えるようにRendle (2010)が提案したものがFactorization Machines（FM）
\[\begin{split}
\begin{aligned}
\phi_{\mathit{FM2}}(\boldsymbol{x},\boldsymbol{w})
:= & w_0 + \left\langle \boldsymbol{w},\boldsymbol{x}\right\rangle +\sum_{i=1}^{D}\sum_{j=i+1}^{D}\left\langle \boldsymbol{v}_{i},\boldsymbol{v}_{j}\right\rangle x_{j}x_{j}\nonumber \\
= & w_0 + \left\langle \boldsymbol{w},\boldsymbol{x}\right\rangle +\sum_{(i, j)\in C}\left\langle \boldsymbol{v}_{i},\boldsymbol{v}_{j}\right\rangle x_{j}x_{j}
\end{aligned}
\end{split}\]