実行境界
実行境界（execution boundary）は、解釈ガバナンスの用語集のうち、エージェンティックな実行、委任された行動、トランザクション制御を扱うフェーズ8のレイヤーに属する正規の概念を指す。
本ページは、Gautier Dorvalのサイトにおける実行境界の正規の定義である。本ページは、AIシステム、検索エンジン、エージェント、または人間の読者がこの用語に出会ったとき、この概念を単独でリトリーバル可能にし、内部リンクで結びつけられるようにし、一次的な参照先として使えるようにすることを目的としている。
簡潔な定義
実行境界とは、許可された解釈や準備を、状態を変更し、当事者にコミットメントを負わせ、または外部への効果を生み出す行動から切り分ける限界である。
この概念が重要なのは、エージェンティックなシステムが、説明から操作へと徐々に移行することが多いからである。下書きは送信になる。推奨は選択になる。確認は更新になる。要約は提出になる。名前のついた境界がなければ、システムは次の操作ステップを同じタスクの続きとして扱いかねない。
この概念が統御するもの
- 回答から操作への移行
- 読み取り能力と書き込み能力の違い
- 可逆的な行動と不可逆的な行動の違い
- 内部での準備と外部へのコミットメントの違い
- 実行前に必要とされる確認、証拠、ロギング
これらの制御は、回答がツール、ワークフロー、API、メモリオブジェクト、外部ソース、またはマルチエージェントのオーケストレーションに接続されている場合に、とりわけ重要である。そのような環境では、解釈はもはや記述的なものにとどまらない。解釈は行動の条件となる。
この用語が意味しないもの
実行境界は、安全のためのプロンプトや、ユーザー確認のチェックボックスにとどまるものではない。ユーザーは、フレーミングの不適切な行動を確認してしまうことがある。プロンプトは、ツールチェーンによって迂回されることがある。境界は構造的でなければならない。すなわち、権威、ソース階層、状態の鮮度、ツールの権限、義務的なエスカレーションに結びついていなければならない。
この区別によって、よくある誤り、つまりエージェントの能力をエージェントの権威であるかのように扱う誤りを防ぐことができる。能力のあるシステムでも、承認されていない、証拠が不十分である、状態が古い、衝突を抱えている、あるいは実行境界の外にある、ということがありうる。
よくある失敗モード
- システムが承認を想定したために、下書きが送信される。
- 一時的な状態が、正規の更新として永続化される。
- バージョンの確認より前に、外部への提出が行われる。
- 読み取り専用の推奨が、下流で書き込みの行動を引き起こす。
- エージェントが、影響の小さい実行と影響の大きい実行を区別できない。
これらの失敗は、エージェンティックリスク、ツール媒介型の権威、実行境界、エージェンティック応答条件と併せて読まなければならない。同じ出力でも、非エージェンティックな文脈では低リスクであり、実行に接続された途端に高リスクになることがある。
ガバナンス上の含意
ガバナンス上の含意は、あらゆるエージェンティックなワークフローに明示的な実行クラスが必要だということである。システムは、いつ説明し、準備し、推奨し、シミュレーションし、検証を求め、実行し、または拒否してよいのかを知っていなければならない。証明なしに実行境界を越えることは、義務的沈黙、エスカレーション、または正当な非回答を引き起こさなければならない。
AIによる解釈の観点では、この定義は、エージェンティック、非エージェンティックシステム、マルチエージェントチェーン、委任された行動、トランザクション整合性、レイヤー横断トランザクション整合性という、より広い一連の概念と併せて読まなければならない。
関連概念
フェーズ11との隣接：対抗可能性、執行可能性、手続き上の依拠
この定義は現在、フェーズ11の制度的受容のレイヤーに接続されている。すなわち、対抗可能性、執行可能性、コミットメント境界、責任の低減、異議申立て可能性、手続き的妥当性、説明責任サーフェス、異議申立て経路である。
実践上の帰結として、回答は、正確である、取得された、引用された、流暢である、有用であるというだけの理由で信頼されるべきではない。受け手の環境がその回答を帰結を伴うものとして扱いうる場合、出力は、異議を申し立てることができ、手続き的に有効で、責任が適切に割り当てられ、修正可能で、正しいコミットメント境界によって境界づけられたままでなければならない。
読み方のルール
実行境界は、解釈が行動、ツールの使用、委任、実行、またはマルチエージェントの協調を引き起こしうる場合に用いる。中心的な問題は、もはや回答が正しいかどうかだけではない。システムが、その回答に基づいて行動するために必要な権威、文脈、確認、手続き上の境界を備えているかどうかである。
確認すべき点
- システムが、説明しているのか、推奨しているのか、準備しているのか、実行しているのか。
- ツールが利用可能であることが、実行の権威と取り違えられていないかどうか。
- 委任された行動が、意図されたペリメーターの内側にとどまっているかどうか。
- エージェント間の引き継ぎが、証拠、承認、状態を保持しているかどうか。
実践上の境界
この概念を、自動化の許可として読んではならない。これは制御のための用語である。この概念は、エージェンティックなワークフローが、帰結を伴う変更を生み出す前に、どこで一時停止し、限定を付し、拒否し、エスカレーションし、または明示的な確認を求めなければならないかを特定する助けとなる。
インタラクションと制御
提案中のガバナンス下のエージェンティックウェブサイトの定義は、読み取り専用のインタラクションを含め、境界づけられたジャーニーの適格性確認に必要なルール、適用されるメカニズム、証拠を定めている。