『XAI』はAIのブラックボックス性を解明する技術。G検定ではSHAPとLIMEが頻出。仕組みと違いを押さえましょう。
雷門 あかり
XAIって具体的にどうやってAIを説明するの?
六角 いずみ 先生
XAI(Explainable AI) の手法は2つに大別されるわ。
局所説明 (個別予測の説明) と大域説明 (モデル全体の振る舞いの説明) ね。
白銀 エマ
最も有名な2手法がSHAPとLIME。
どちらもモデル非依存 (Model-agnostic) で、任意のブラックボックスモデルに適用できるのが強みよ。
紫藤 ゆら
モデル非依存って、どういう意味ですかぁ?
六角 いずみ 先生
ランダムフォレストでもニューラルネットでも、中身を問わずに説明できるということね。
『モデルに入力して出力を観察する』という形で、ブラックボックス的にアプローチするのよ。
白銀 エマ
SHAP(SHapley Additive exPlanations, Lundberg 2017) は協力ゲーム理論のシャプレー値を使って、各特徴量が予測に与えた貢献度を公平に分配するのよ。
雷門 あかり
シャプレー値って、なんか聞いたことあるかも!
六角 いずみ 先生
ゲーム理論でのシャプレー値は、協力ゲームで各プレイヤーの貢献度を公平に分ける概念。
ノーベル経済学賞を受賞したロイド・シャプレーに由来するわ。
白銀 エマ
SHAPは理論的にきれいで、一貫性(特徴量の影響が大きければ貢献度も大きい)、加法性(貢献度の和が予測値と一致) などの望ましい性質を持つわ。
紫藤 ゆら
わぁ、数学的にちゃんとしてるんですねぇ♪
六角 いずみ 先生
一方LIME(Local Interpretable Model-agnostic Explanations, Ribeiro 2016) は、予測したい入力の周辺で線形モデルを当てはめて局所的な説明を作るの。
白銀 エマ
LIMEはSHAPより計算が軽いけれど、近傍サンプリングに依存するから、結果が安定しないこともあるの。
実務では目的に応じて使い分けるわ。
雷門 あかり
要は、SHAPの方が厳密で、LIMEの方が気軽な感じってこと?
六角 いずみ 先生
そう整理してもいいわ。
他にもXAIにはAttention可視化(Transformer向け)、Grad-CAM(CNN向けの勾配ベース)、反実仮想説明(Counterfactual Explanation) など手法がたくさんあるの。
白銀 エマ
XAIはGDPRの『自動化された意思決定に関する説明を受ける権利』やEU AI Actの透明性義務など、規制の文脈でも重要性が増しているわ。
雷門 あかり
へぇ〜、技術と法律が絡む領域なんだね!
六角 いずみ 先生
G検定では『XAI』『SHAP (Shapley値ベース)』『LIME (局所近似)』『Grad-CAM (CNN勾配ベース)』『Attention可視化』を押さえておいてね!
確認クイズ
XAI (説明可能AI) の代表的手法で、協力ゲーム理論のシャプレー値を用いて各特徴量の貢献度を公平に分配するものはどれか。
- LIME
- SHAP
- Grad-CAM
- t-SNE
こたえを見る
正解: 2. SHAP
SHAP (SHapley Additive exPlanations)は2017年にLundbergが提案したXAI手法で、協力ゲーム理論のシャプレー値を使って特徴量の貢献度を計算します。LIMEは局所線形近似、Grad-CAMはCNN向け、t-SNEは次元削減手法です。