Tree of Thought・ReAct - 高度なプロンプト技術

複数経路を探索するToT、推論と行動を交互に行うReActなど、G検定必出の高度プロンプト技術を整理します。

より高度なプロンプト技術『Tree of Thought』と『ReAct』。AIエージェントに繋がる重要概念です。

雷門 あかり(普段) 雷門 あかり

CoTの発展形ってあるのかな?

六角 いずみ 先生(笑顔) 六角 いずみ 先生

ええ、Tree of Thought(ToT, Yao等 2023) ね。
CoTが直線的な推論なのに対し、ToTは複数の思考経路を木構造で探索するの。

白銀 エマ(普段) 白銀 エマ

例えばパズルを解く時、『選択肢Aを試す→行き詰まる→Bに戻って試す』のようにバックトラッキングを行う。
探索アルゴリズムと組み合わせるわ。

紫藤 ゆら(笑顔) 紫藤 ゆら

迷路の探索みたいですねぇ!

六角 いずみ 先生(普段) 六角 いずみ 先生

ToTは複雑な問題で威力を発揮するけど、計算コストが膨大。
Game of 24 (数字パズル) などでCoTの成功率9%に対しToTは74%という報告があるわ。

白銀 エマ(普段) 白銀 エマ

もう一つ重要なのがReAct(Reasoning + Acting, Yao等 2022)。
推論と行動を交互に行うプロンプト手法よ。

雷門 あかり(びっくり) 雷門 あかり

行動って何?
AIが動き回るの?

六角 いずみ 先生(普段) 六角 いずみ 先生

AIがツール(検索、計算機、API呼び出しなど) を使う行動を指すの。
『質問→検索ツール呼び出し→結果を見て推論→もう一度検索→回答』のようなループね。

白銀 エマ(普段) 白銀 エマ

ReActはAIエージェントの先駆けで、LangChainやAutoGPTなどの実装に影響を与えたわ。
現代のAIアシスタントは、ほぼReActの思想で動いているの。

紫藤 ゆら(びっくり) 紫藤 ゆら

AIが自分で道具を使えちゃうんですねぇ…!

六角 いずみ 先生(普段) 六角 いずみ 先生

Reflection(反省・内省) もある。
LLMに自分の出力を批評させて改善する手法で、Reflexion(2023) という論文で体系化されたわ。

白銀 エマ(普段) 白銀 エマ

これらの手法を組み合わせて、ますます賢いエージェントが作れるようになっているの。
ただし指示が増えるとコストも増えるので、タスクに応じて選ぶのが大事ね。

雷門 あかり(笑い) 雷門 あかり

プロンプトの世界って、奥が深いんだね!

六角 いずみ 先生(普段) 六角 いずみ 先生

G検定では『Tree of Thought (ToT, Yao 2023)』『ReAct (Yao 2022)』『Reflection』の基本概念を押さえて!

確認クイズ

LLMが推論と外部ツール呼び出し (検索等) を交互に行うプロンプト手法はどれか。

  1. Chain of Thought
  2. Self-Consistency
  3. ReAct
  4. Tree of Thought
こたえを見る

正解: 3. ReAct

ReAct (Reasoning + Acting)は2022年にYao等が提案した、LLMが推論と外部行動 (ツール呼び出し) を交互に行う手法です。AIエージェントの基礎技術になりました。

🔖 この記事の関連書籍

Amazonアソシエイトリンクを含みます。他分野は おすすめ書籍ページ へ。