AI倫理の核心は『公平性・透明性・説明可能性』の3原則。抽象的に見えますが、G検定では具体例とセットで問われます。
雷門 あかり
AI倫理って、結局なにを考えればいいの?
六角 いずみ 先生
中核となる3原則は公平性(Fairness)、透明性(Transparency)、説明可能性(Explainability)。
略してFTEとも呼ばれるわ。
白銀 エマ
公平性は、AIの判断が人種・性別・年齢などの属性で不当に差別しないこと。
有名な事例がAmazonの採用AI(2018) で、過去の男性中心の採用データから女性応募者を不当に低評価した問題よ。
紫藤 ゆら
過去のデータの偏りが、そのまま反映されちゃったんですねぇ…
六角 いずみ 先生
他にもCOMPAS(米国の再犯予測AI, 2016) で黒人への誤判定が多いことが問題化。
医療AIでも白人患者データに偏って有色人種への精度が低い問題がわかっているの。
白銀 エマ
透明性は、AIの存在・機能・判断過程を隠さないこと。
EU AI Actでは『AIと対話していることをユーザに知らせる義務』がある。
ディープフェイクの自動表示要件もこの流れね。
雷門 あかり
あ、『これはAIが作った画像です』って表示するやつだね!
六角 いずみ 先生
説明可能性(Explainability) は、AIの判断理由を人間が理解できる形で説明できること。
別名XAI(Explainable AI) と呼ぶわ。
白銀 エマ
XAIの代表的手法がSHAP(SHapley Additive exPlanations) とLIME(Local Interpretable Model-agnostic Explanations)。
どちらも特徴量の重要度を可視化する手法よ。
紫藤 ゆら
SHAPとLIME、なんだか名前がかわいいですぅ♪
六角 いずみ 先生
その他の原則としてプライバシー、安全性(Safety)、セキュリティ、アカウンタビリティ(説明責任) もある。
Microsoft・Google・IBMなど各社がやや異なる体系で原則をまとめているわ。
白銀 エマ
重要なのは、これらの原則は時にトレードオフがあること。
例えばプライバシーを守るために個人データを減らすと、公平性を検証するために必要な属性データも減ってしまう、といった具合ね。
雷門 あかり
倫理って、そんなに単純じゃないんだね…
六角 いずみ 先生
だから各原則を杓子定規に適用せず、ステークホルダー対話でバランスを取る姿勢が重要よ。
人間中心のAIという考え方がベースにあるの。
雷門 あかり
AIと倫理、あたしもちゃんと勉強しとかないと危ないね!
六角 いずみ 先生
G検定では『公平性・透明性・説明可能性 (FTE)』『XAI・SHAP・LIME』『Amazon採用AI・COMPAS』『ディープフェイク表示』を押さえて!
確認クイズ
AIの判断理由を人間が理解できる形で説明できる性質を『説明可能性』と呼ぶが、この領域を研究する分野の略称はどれか。
- XAI (Explainable AI)
- AGI (Artificial General Intelligence)
- ANI (Artificial Narrow Intelligence)
- AIoT (AI of Things)
こたえを見る
正解: 1. XAI (Explainable AI)
XAI (Explainable AI, 説明可能AI)はAIの判断過程を人間が理解できる形で説明する技術・研究分野です。代表的手法にSHAPとLIMEがあります。AGIは汎用人工知能、ANIは特化型AI、AIoTはIoTとAIの融合です。
