生成モデル#

深層生成モデルの種類#

モデル

学習するモデル

生成モデルの尤度計算

生成

推論

VAE

生成モデル: $p(x, z) = \int p(x

z)p(z)dz<br>:q(z

x)$

直接は不可能(対数尤度下限が計算可能)

GAN

生成器: G(z)
識別器: D(x)

不可能(識別器が真のモデルとの尤度比を推定)

低コスト

不可能(エンコーダを導入すれば可能)

自己回帰モデル

条件付きモデル: $\prod_d p(x_d

x_1, …, x_{d-1})$

可能

高コスト

フローベース

フロー(可逆な関数): x=f(z)

可能

低コスト

可能(逆変換)

拡散モデル

逆過程: $p(x_T) \prod_t p(x_{t-1}

x_t)<br>:\prod_t p(x_t

x_{t-1})$

直接は不可能(対数尤度下限が計算可能)

スコアマッチング

スコアネットワーク: S(x)

直接は不可能(対数尤度の勾配が計算可能)

高コスト(反復)

潜在変数がない

エネルギーベース

エネルギー関数: E(x)

困難(分配関数の計算)

高コスト(反復)

モデルの設計による

(出所:松尾研セミナー 2024Summer 深層生成モデル :第5回エネルギーベースモデル - YouTube

Flowベースの生成#

Flowベース生成モデルの調査

参考#