AI分野には古くから議論される『難問』があります。フレーム問題とシンボルグラウンディング問題は、AIの本質的限界を問う哲学的テーマで、G検定でも頻出です。
雷門 あかり
先生、フレーム問題ってさっきも出てきたけど、もっと詳しく教えて!
六角 いずみ 先生
フレーム問題は、1969年にジョン・マッカーシーとパトリック・ヘイズが提起した問題。
『ある行為をしたとき、何が変化し、何が変化しないかを全て記述・判断することは事実上不可能』という課題よ。
白銀 エマ
有名な思考実験がダニエル・デネットの『洞窟のロボット』。
爆弾のそばにあるバッテリーを取ってくるロボットを考えるの。
紫藤 ゆら
えぇ、バッテリーを取ってくるだけなら簡単じゃないですかぁ?
六角 いずみ 先生
ところが、バッテリーの上に爆弾が乗っていて、バッテリーを動かすと爆弾も一緒に動いてしまうのよ。
最初のロボットはそれに気づかず、爆発しちゃうの。
白銀 エマ
次に『関係しそうなすべての影響を考えるロボット』を作ったの。
でも今度は『壁の色は変わるか』『天井が落ちてくるか』『月の位置が動くか』と無関係な影響まで考え始めて、時間切れで爆発。
雷門 あかり
うわぁ、考えすぎて動けなくなっちゃうのか!
なんかAIあるあるって感じだね!
六角 いずみ 先生
最後に『関係ない影響は無視するロボット』。
でも『何が関係ないか』を判断するために全部を検討してしまって、結局時間切れ。
これがフレーム問題の本質よ。
紫藤 ゆら
うぅ〜ん、考えすぎても考えなさすぎてもダメなんですねぇ…。
白銀 エマ
もう一つの有名な問題がシンボルグラウンディング問題。
1990年にスティーブン・ハルナッドが提唱した、『シンボル (記号) と現実世界の対象をどう結びつけるか』という課題よ。
六角 いずみ 先生
例えば『シマウマ』という言葉を辞書で引くと『馬のような縞模様のある動物』と書かれている。
でもコンピュータは『馬』も『縞模様』も画像として知らない。
純粋な記号操作だけでは意味に到達できないのよ。
雷門 あかり
なるほど〜、言葉だけじゃ『分かる』ことにはならないんだね。
白銀 エマ
現代のディープラーニングやマルチモーダルAIは、画像・音声と言語を同時に学習することで、ある程度この問題に対処していると言えるわ。
ただ、完全に解決したわけではないのよ。
紫藤 ゆら
ふふ、だからChatGPTも画像を見せると急に賢くなったような気がするんですねぇ!
六角 いずみ 先生
加えてもう一つ、身体性 (embodiment) の議論も重要ね。
『知能は身体を持って環境と相互作用することで初めて成立する』という考え方で、ロドニー・ブルックスが提唱したわ。
白銀 エマ
ブルックスの『包摂アーキテクチャ』は、抽象的な記号処理ではなく、センサ入力と行動出力を直接繋ぐロボットアーキテクチャよ。
これも身体性の発想。
雷門 あかり
AIの難問って、昔からあるのに今も解けてない、めっちゃ深いテーマなんだなぁ…
六角 いずみ 先生
G検定では『フレーム問題 (マッカーシー&ヘイズ, 1969)』『洞窟のロボット (デネット)』『シンボルグラウンディング (ハルナッド, 1990)』『身体性 (ブルックス)』をセットで覚えておいて。
確認クイズ
1969年にジョン・マッカーシーとパトリック・ヘイズが提起した、『ある行為の結果すべての影響を記述することが事実上不可能である』という問題はどれか。
- シンボルグラウンディング問題
- フレーム問題
- チューリングテスト
- 中国語の部屋
こたえを見る
正解: 2. フレーム問題
フレーム問題は1969年にマッカーシーとヘイズが提起した問題で、AI分野の古典的難問です。シンボルグラウンディング問題はハルナッドが1990年に提唱、チューリングテストは1950年のチューリングの提案、中国語の部屋はジョン・サールの思考実験です。
