ChatGPTプロンプトのバイブル Prompt Engineering Guide にて、Tree of Thoughts（ToT）が追加されました。
https://www.promptingguide.ai/
Tree of Thoughts（ToT）とは？
近年、AIの進化は目覚ましいものがあり、特にChatGPT活用に向けて「Tree of Thoughts（ToT）」フレームワークは特に注目されています。この記事では、ToTの基本概念、その働き、そしてなぜこれがAI技術の未来にとって重要なのかを探ります。
Tree of Thoughtsコピペ用 フォーマット
●●を深堀したいテーマに書き換えたり、加工していくご参考に。実例は下にあります。
プロンプトフォーマット①
- ●●問題原因は何か、そしてどのような戦略で収益向上が可能か、可能性のある策を列挙してください。
- 上記の分析を基に、可能な解決策を複数挙げてください。各解決策が問題にどのように対処するかを説明してください。
- 提案された各解決策の効果を評価し、最も効果的だと思われる解決策を選択してください。その理由も説明してください。
プロンプトフォーマット②
- ●●について、どのような問題が存在し、それがなぜ発生しているのかを特定してください。さまざまな視点からの原因を考察し、それに基づいて収益向上につながる多様な戦略を提案してください。
- 複数の視点から分析した問題に対して、可能な解決策を提案してください。各解決策が問題にどのように対応し、異なる利害関係者にどのような影響を与えるかを考察してください。
- 提案された各解決策の潜在的な効果を、異なる角度から評価してください。その中で、最も包括的な利点を提供すると思われる解決策を選択し、その選択がもたらす広範な利益と可能性について説明してください。
- 選択した解決策の実施計画を立てる際、必要なステップ、リソース、および利害関係者を、異なる視点から詳細に検討してください。計画の実施に際して、予期せぬ障害や変更に柔軟に対応できる方法を含めてください。
Chat GPT × Tree of Thoughts 実例
題材：カフェの収益向上
問題：カフェのオーナーが、来客数の増加にもかかわらず収益が伸び悩んでいる状況を解決したい。
ステップ 1: 問題の特定と分解
プロンプト: 「このカフェの収益が伸び悩んでいる原因は何か、そしてどのような戦略で収益向上が可能か、可能性のある策を列挙してください。」
ChatGPTの応答:
- 原因分析：価格設定、コスト構造、顧客体験、競合との比較
- 戦略提案：
- メニューの最適化
- コスト削減策
- プロモーションとイベントの強化
- ロイヤリティプログラムの導入
ステップ 2: 各戦略の探索と評価
プロンプト: 「メニューの最適化、コスト削減、プロモーション強化、ロイヤリティプログラムの4つの戦略について、それぞれの効果を評価してください。」
ChatGPTの応答:
- メニューの最適化：顧客の好みに合わせたメニューの見直しで、平均単価の向上が見込める。
- コスト削減：仕入れコストの見直しと無駄の削減で利益率が改善可能。
- プロモーション強化：地域コミュニティでのイベントやSNSを利用した宣伝で新規顧客獲得が期待できる。
- ロイヤリティプログラム：リピーターを増やし、顧客の生涯価値を高める。
ステップ 3: 最適な戦略の選定
プロンプト: 「これらの戦略の中で、最も効果が高く、実施可能なものを1つ選んで、その実施プランを詳細に説明してください。」
ChatGPTの応答: 選択戦略：プロモーション強化 実施プラン：
- 地元のフェスティバルやイベントへの参加
- SNSでのキャンペーン実施、インフルエンサーとのコラボレーション
- 店内での特別イベントやテーマナイトの開催
この実例では、ChatGPTがToTフレームワークを用いて、戦略的な問題解決プロセスを段階的に展開し、最終的に具体的な行動計画に落とし込む方法を示しています。このアプローチは、複雑なビジネス課題に対しても体系的かつ効果的な解決策を導くために有効です。
Tree of Thoughts なぜ利用すべきなのか
1. 複雑な問題解決能力
ToTフレームワークは、AIが単一の線形的アプローチから離れ、複数の解決策や戦略を同時に探索できるようにすることで、より複雑な問題に対処します。この多次元的探索は、より広範な視点から問題を見ることを可能にし、異なる解決策間でのトレードオフを評価する能力をAIに付与します。
2. システマティックな思考探索
ToTは問題解決過程において、「思考の木」を形成し、各枝が問題の異なる側面や可能な解を表します。この構造的アプローチにより、AIは問題の全体像を維持しながら、細部にも焦点を当てることができます。これは、深さ優先探索（DFS）や幅優先探索（BFS）などのアルゴリズムを用いて効率的に探索を行う基盤を提供します。
3. 自己評価と適応
ToTフレームワークでは、AIが生成した各思考またはアプローチを自己評価し、その有効性を判断します。これにより、AIは実行中に自身の戦略を調整し、より効果的な解決策に焦点を絞ることが可能です。これは、学習プロセスを通じてAIのパフォーマンスが進化することを意味し、AIが新たな情報から学び、以前の経験を活用する能力を高めます。
4. バックトラッキングとフォワードシンキング
ToTは、適切な戦略が見つかるまで異なるアプローチを試すためのバックトラッキング（後戻り）機能を提供します。また、フォワードシンキング（先読み）によって、将来的な問題やその解決策を予測する能力も備えています。これにより、AIは短期的および長期的な目標に対してより効果的な計画を立てることができます。
5. 柔軟性と汎用性
ToTフレームワークは、医療、金融、製造業、クリエイティブ産業など、多岐にわたる分野での応用が可能です。これにより、AIは特定の業界や問題に限定されることなく、広範な問題に対して効果的な解決策を提供することができます。
補足：Prompt Engineering Guide翻訳 Tree of Thoughts について
複雑な課題に対して、探索や戦略的な先読みが必要な場合、従来の単純なプロンプト技術では不十分です。Yao et el. (2023)(opens in a new tab)とLong (2023)(opens in a new tab)は最近、思考の木（Tree of Thoughts、ToT）というフレームワークを提案しました。これは、言語モデルを用いた一般的な問題解決のための中間ステップとして機能する思考の探求を促進するものです。
ToTは、思考が問題解決への中間ステップとなる一貫した言語の連続を表す思考の木を保持します。このアプローチにより、LMは熟考プロセスを通じて中間の思考の達成度を自己評価することが可能です。思考の生成と評価能力は、探索アルゴリズム（例：幅優先探索や深さ優先探索）と組み合わされ、先読みとバックトラッキングを伴う思考の系統的な探求を可能にします。
ToTフレームワークを以下に示します:
Image Source: Yao et el. (2023)(opens in a new tab)
ToTを使用する際には、異なるタスクにおいて候補の数と思考/ステップの数を定義する必要があります。例えば、論文で示されているように、24ゲームは数学的な推論タスクとして使用され、思考を3つのステップに分解し、それぞれが中間の式を含みます。各ステップでは、最も優れたb=5個の候補が保持されます。
24ゲームのタスクでToTでBFSを実行する場合、LMは各思考候補を24に到達するための「確実/おそらく/不可能」として評価するようにプロンプトされます。著者によれば、「目的は、先読みの試行回数が少ない内に判定可能な正しい部分解を促進し、「大きすぎる/小さすぎる」という常識に基づいた不可能な部分解を排除し、残りの部分解を「おそらく」に保つことです。各思考について値は3回サンプリングされます。このプロセスを以下に示します:
Image Source: Yao et el. (2023)(opens in a new tab)
以下の図に報告されている結果からもわかるように、ToTは他のプロンプト手法に比べて大幅に優れています。
Image Source: Yao et el. (2023)(opens in a new tab)
Code available here(opens in a new tab) and here(opens in a new tab)
Yao et al. (2023)(opens in a new tab)とLong (2023)(opens in a new tab)の主なアイデアは、高いレベルでは似ています。両者とも、マルチラウンドの対話を通じた木探索よって、複雑な問題解決能力を向上させます。主な違いの一つは、Yao et al. (2023)(opens in a new tab)がDFS/BFS/ビームサーチを活用しているのに対し、Long (2023)(opens in a new tab)で提案されている木探索戦略（いつバックトラックするか、バックトラックするレベルなど）は、「ToTコントローラー」と呼ばれる強化学習によって訓練されたモデルによって制御されます。DFS/BFS/ビームサーチは、特定の問題に適応されるわけではない一般的な解探索戦略です。一方、強化学習を用いて訓練されたToTコントローラーは、新しいデータセットやセルフプレイ（AlphaGo対ブルートフォース探索）から学習することができ、したがって、固定されたLLMでもRLベースのToTシステムは進化し、新しい知識を学び続けることができる可能性があります。
Hulbert (2023)(opens in a new tab)は、ToTフレームワークの主要なコンセプトを単純なプロンプト技術として適用する「Tree-of-Thought Prompting」を提案しました。これにより、LLMは単一のプロンプトで中間思考を評価することができます。サンプルのToTプロンプトは以下の通りです:
この質問について、3人の異なる専門家が回答していると想像してください。すべての専門家は、自分の思考の1つのステップを書き留め、それをグループと共有します。その後、すべての専門家は次のステップに進みます。以後同様です。もし専門家の中に、いかなる時点で誤りに気づいた場合は、退場します。質問は...
