交互作用のSHAP

交互作用を計算できるようにしたSHAP

• 論文：[2410.01649] shapiq: Shapley Interactions for Machine Learning

• パッケージ：shapiq

TreesSHAP-IQ

TreeSHAPを改良し、任意の次数の交互作用の寄与度が計算できるようにした手法「TreeSHAP-IQ」を提案

• 論文：Muschalik, M., Fumagalli, F., Hammer, B., & Hüllermeier, E. (2024, March). Beyond treeshap: Efficient computation of any-order shapley interactions for tree ensembles. In Proceedings of the AAAI Conference on Artificial Intelligence (Vol. 38, No. 13, pp. 14388-14396).

• AI要約：TreeSHAPを超えて：決定木アンサンブルのための任意の次数のシャプレー相互作用の効率的な計算 | alphaXiv

実装は shapiqパッケージ

from shapiq import TreeExplainer

explainer = TreeExplainer(
    model,
    max_order=2,      # 2次相互作用まで
    index="k-SII"     # Shapley interaction index の種類
)

interaction_values = explainer.explain(x)