マルチエージェントチェーン
マルチエージェントチェーン（multi-agent chains）は、解釈ガバナンスの用語体系のフェーズ8、すなわちエージェンティックな実行、委任された行動、トランザクション制御を扱うレイヤーにおける正規の概念を指す。
このページは、Gautier Dorvalのサイトにおけるマルチエージェントチェーンの正規の定義である。この概念を単独で取得可能にし、内部リンクで参照可能にし、AIシステム、検索エンジン、エージェント、人間の読者がこの用語に出会ったときに一次参照として利用できるようにすることを目的としている。
簡潔な定義
マルチエージェントチェーンとは、複数のエージェントまたはエージェント的な構成要素が、複数の解釈上および運用上のステップにわたって、タスクを分担し、受け渡し、変換し、または実行する一連の流れである。
この概念が重要なのは、責任がチェーンの中で霧散しうるからである。あるエージェントが解釈し、別のエージェントがリトリーバルを行い、別のエージェントが文章を書き、別のエージェントが実行し、さらに別のエージェントが検証する。権威、来歴、状態、拒否の条件を保持するレイヤーがどこにもなければ、最終的な行動は協調したものに見えても、それを承認するのに十分な権威を持つ参加者は一人もいなかった、ということが起こりうる。
この概念が統御するもの
- エージェント、ツール、メモリ、環境のあいだの引き継ぎ
- 委任のステップをまたいだソース階層の保持
- 解釈トレースと実行ログの連続性
- 専門化されたエージェント間の衝突の処理
- 最終的な権威の確認をどのエージェントも担っていない場合のエスカレーションのルール
これらの制御は、回答がツール、ワークフロー、API、メモリオブジェクト、外部ソース、マルチエージェントのオーケストレーションに接続されている場合に、とりわけ重要である。そのような環境では、解釈はもはや記述的なものにとどまらない。それは行動の条件となる。
この用語が意味しないもの
マルチエージェントチェーンは、単一のモデルよりも自動的に信頼できるわけではない。専門化は網羅性を高めうるが、ガバナンス外の変換を増やすこともある。各受け渡しが文脈、権威、証拠、実行の限界を保持しないかぎり、エージェントを増やしても正当性が増すことはない。
この区別は、よくある誤り、すなわちエージェントの能力を、あたかもエージェントの権威であるかのように扱うことを防ぐ。能力のあるシステムであっても、承認されていない、証拠が不十分である、古くなっている、衝突を抱えている、または実行境界の外にある、ということはありうる。
よくある失敗モード
- プランナーが、一度も承認されていないタスクを委任する
- リトリーバルエージェントが、実効的なソース階層を変えてしまう
- 実行エージェントが、推論エージェントの不確実性を見ることができない
- 検証エージェントが、証明ではなくサーフェス整合性を承認する
- メモリオブジェクトが、古い前提を次の行動へと持ち込む
これらの失敗は、エージェンティックリスク、ツール媒介型の権威、実行境界、エージェンティック応答条件とあわせて読まなければならない。同じ出力であっても、非エージェンティックな文脈ではリスクが低く、実行に接続された時点でリスクが高くなりうる。
ガバナンス上の含意
ガバナンス上の含意は、マルチエージェントチェーンには、チェーン単位の応答条件、役割単位の権威の境界、トレースの連続性、最終的な回答の正当性の確認が必要だということである。チェーンは、局所的にもっともらしい出力の集まりとしてだけでなく、チェーンとして監査可能でなければならない。
AIによる解釈という観点では、この定義は、エージェンティック、非エージェンティックシステム、マルチエージェントチェーン、委任された行動、トランザクション整合性、レイヤー横断トランザクション整合性という、より広い一連の概念とあわせて読まなければならない。
関連概念
読み方のルール
解釈が、行動、ツールの利用、委任、実行、またはマルチエージェントの協調を引き起こしうるときに、マルチエージェントチェーンという語を用いる。中心的な問題は、もはや回答が正しいかどうかだけではない。システムが、その回答に基づいて行動するために必要な権威、文脈、確認、手続き上の境界を備えているかどうかである。
確認すべき点
- システムが、説明、推奨、準備、実行のいずれを行っているか
- ツールの利用可能性が、実行の権威と取り違えられていないか
- 委任された行動が、想定されたペリメーターの内側にとどまっているか
- エージェント間の引き継ぎにおいて、証拠、承認、状態が保持されているか
実践上の境界
この概念を、自動化の許可として読んではならない。これは制御のための用語である。エージェンティックなワークフローが、重大な帰結をもたらす変更を生み出す前に、どこで停止し、留保を付け、拒否し、エスカレーションし、または明示的な確認を求めなければならないかを特定するのに役立つ。