Prototype Based Explanation

定義¶

Prototype-Based Explanation（プロトタイプベース説明） は、機械学習モデルの予測や判断を 代表的な事例・典型例・類似例である「プロトタイプ」 を用いて説明する方法。

より形式的には、

ある入力 $x$ に対するモデルの予測 $f(x)$ を、学習データ中または潜在空間上の代表点 $p_1, p_2, \dots, p_k$ との類似性に基づいて説明する手法

たとえば画像分類で猫画像が「猫」と判定された場合、

この画像は、過去に見た典型的な猫画像プロトタイプに似ているため、猫と判定された

という形で説明する。

関連する概念として、example-based explanation や case-based reasoning に近いが、prototype-based explanation では単なる近傍事例ではなく、クラスや概念を代表する典型例を使う点が特徴。

アルゴリズムの例¶

ProtoAttend¶

ProtoAttend: Attention-Based Prototypical Learning

手法: 事前学習済みを含む広範なアーキテクチャに統合可能で、符号化表現とサンプルを関連付けるアテンション機構でプロトタイプ（少数の関連事例）を決定。
結果: 元モデルの精度を犠牲にせず、(1)決定に最も関連するサンプルを出力するサンプルベース解釈、(2)最先端の信頼度推定、(3)分布ミスマッチ検出で最先端を達成。
意義: 最小の追加テスト時間・実用的な訓練コストで実現でき、テーブル/構造化データを含む複数モダリティに適用可能。