ディープフェイクと敵対的攻撃・プライバシー保護機械学習 - 差分プライバシー・連邦学習を確認する二問

週刊コラム / 2026年11月9日

同じ分野の二つの教材から、確認問題を一問ずつ選びました。自分の答えを決めてから解説を開き、迷ったところは元の教材で振り返りましょう。

このサイトの教材にある問題と解説を使う復習回です。会話は編集上の表現です。

教材の問題で振り返ろう

白銀ゆき

問題文を読んで、選択肢を選んでみます。

若葉みどり先生

教材に載っている問いを、確かめてみましょうね。

若葉みどり先生

AIモデルを騙すために入力に微小なノイズを加える攻撃手法を何と呼ぶか。

こたえと解説を見る

正解: 敵対的攻撃 (Adversarial Attack)

敵対的攻撃 (Adversarial Attack)は、人間には分からない微小ノイズを入力に加えてAIの誤分類を引き起こす攻撃です。
2014年にGoodfellow等が発見。
プロンプトインジェクションはLLM特有、データポイズニングは学習データ改ざん、モデル抽出はモデル複製攻撃です。

若葉みどり先生

選択肢を読んで、答えを考えてみましょう。

若葉みどり先生

データを中央サーバに集めず、各デバイスでローカル学習を行い『モデル更新分のみ』を集約する機械学習手法はどれか。

こたえと解説を見る

正解: 連邦学習 (Federated Learning)

連邦学習 (Federated Learning)は2016年にGoogleが提案した手法で、データをサーバに送らずに各デバイスでローカル学習し、モデル更新分のみを集約します。
GoogleのGboardや医療分野で実用化されています。

桜井もも

教材を開いて、自分の言葉で復習してみたいな。