ツール媒介型の権威
ツール媒介型の権威（tool-mediated authority）は、解釈ガバナンスの用語体系のフェーズ8、すなわちエージェンティックな実行、委任された行動、トランザクション制御を扱うレイヤーにおける正規の概念を指す。
このページは、Gautier Dorvalのサイトにおけるツール媒介型の権威の正規の定義である。この概念を単独でリトリーバル可能にし、内部リンクで参照可能にし、AIシステム、検索エンジン、エージェント、人間の読者がこの用語に出会ったときに一次参照として利用できるようにすることを目的としている。
簡潔な定義
ツール媒介型の権威とは、ツールがAIシステムにテキスト生成を超える運用能力を与えたときに、そのシステムが何をしてよいかを決定する権威レジームである。
この概念が重要なのは、ツールが権威の錯覚を生み出すからである。コネクタは、データの解釈を承認することなくデータを公開しうる。APIは、呼び出しの背後にある業務上の行為を承認することなく呼び出しを許可しうる。ブラウザは、ページに依拠する権威を与えることなくページにアクセスしうる。したがって、ツールが利用可能であることは権限と同等ではない。
この概念が統御するもの
- 特定のタスクに対するツールの適格性
- アクセス権限と解釈権威の違い
- ツールが矛盾する素材を返したときのソースの順位づけ
- 各ツールに付随する実行上の制約
- ツールの出力が行動を統御できるようになる前に求められる証明
これらの制御は、回答がツール、ワークフロー、API、メモリオブジェクト、外部ソース、マルチエージェントのオーケストレーションに接続されている場合に、とりわけ重要である。そうした環境では、解釈はもはや記述的なものにとどまらない。それは行動の条件になる。
この用語が意味しないもの
ツール媒介型の権威は、汎用的な権限モデルではない。アクセス制御は、システムがツールを使用できるかどうかを示す。解釈ガバナンスが問うのは、そのツール使用の結果が、主張、推奨、拒否、行動を正当に裏づけられるかどうかである。許可された呼び出しであっても、意図された応答にとっては適格でないことがありうる。
この区別は、よくある誤り、すなわちエージェントの能力をエージェントの権威であるかのように扱うことを防ぐ。能力のあるシステムであっても、承認されていない、証拠が不十分である、古くなっている、衝突を抱えている、あるいは自らの実行境界の外にあることがありうる。
よくある失敗モード
- ツールへのアクセスが、ソースの権威として扱われる
- APIの結果が、そのスキーマと範囲を超えて過剰に拡張される
- ブラウジングの結果が、裁定を経ずに正規ソースを上書きする
- 書き込み可能なツールが、応答条件が満たされる前に使用される
- ツールのログが実行を記録するが、解釈を記録しない
これらの失敗は、エージェンティックリスク、ツール媒介型の権威、実行境界、エージェンティック応答条件とあわせて読まなければならない。同じ出力が、非エージェンティックな文脈では低リスクであっても、実行に接続されたとたんに高リスクになりうる。
ガバナンス上の含意
ガバナンス上の含意は、すべてのツールに権威プロファイルが必要だということである。すなわち、そのツールが何にアクセスでき、何を証明でき、何を推論できず、いつ実行してよく、いつ制御を人間またはより上位の権威を持つサーフェスに返さなければならないかである。
AIによる解釈については、この定義を、エージェンティック、非エージェンティックシステム、マルチエージェントチェーン、委任された行動、トランザクション整合性、レイヤー横断トランザクション整合性という、より広い一連の概念とあわせて読まなければならない。
関連概念
読み方のルール
ツール媒介型の権威は、解釈が行動、ツールの使用、委任、実行、またはマルチエージェントの協調を引き起こしうる場合に用いる。中心的な問題は、もはや回答が正しいかどうかだけではない。システムが、その回答に基づいて行動するために必要な権威、文脈、確認、手続き上の境界を備えているかどうかである。
確認すべき点
- システムが、説明しているのか、推奨しているのか、準備しているのか、実行しているのか。
- ツールが利用可能であることが、実行の権威と取り違えられていないかどうか。
- 委任された行動が、意図されたペリメーターの内側にとどまっているかどうか。
- エージェント間の引き継ぎが、証拠、承認、状態を保持しているかどうか。
実践上の境界
この概念を、自動化の許可として読んではならない。これは制御のための用語である。この概念は、エージェンティックなワークフローが、帰結を伴う変更を生み出す前に、どこで一時停止し、限定を付し、拒否し、エスカレーションし、または明示的な確認を求めなければならないかを特定する助けとなる。