行動の正当性

簡潔な定義

行動の正当性（action legitimacy）とは、AIエージェントが提案または実行する行動を、推論を濫用することなく遂行できるための最低限の条件を定義するものである。それは、その行動が技術的に可能かどうかを問うだけではない。その行動が、公開された文脈によって承認されているか、十分に定義されているか、適切に範囲を画定されているか、意図に釣り合っているか、理解可能な帰結に結びついているかを問う。

この概念は、回答の正当性を拡張するものである。回答が正当であっても、それに対応する行動が正当であるとは限らない。サービスを説明すること、ページを要約すること、次のステップを提案することは、フォームの送信、購入、予約、記録の変更、メッセージの送信、コミットメントの作成を行う権利を自動的に与えるものではない。

この概念が必要になる理由

エージェンティックウェブは、出力を行動へと近づける。システムが回答するだけであるかぎり、主なリスクは誤った表現である。システムが行動するようになると、リスクはトランザクション上のものにもなる。誤った対象、誤ったフォーム、誤った状態、誤った権威、誤った帰結、あるいは確認なしの不可逆的な行動である。

行動の正当性は、よくある誤り、すなわち能力、意図、権限を混同することを防ぐ。

エージェントはクリックできるかもしれない。ユーザーは先へ進みたいかもしれない。サイトはボタンを表示しているかもしれない。これらの要素のいずれも、それだけでは、その行動が正当であることを立証するのに十分ではない。

最低限の条件

エージェンティックな行動は、正当とみなされる前に、いくつかのチェックを通過すべきである。

1. 意図：ユーザーの目的が十分に明確である。
2. 対象：インターフェース要素が正しく特定されている。
3. 状態：エージェントが、ページ、フォーム、またはジャーニーがどの状態にあるかを把握している。
4. 権威：ソースまたはインターフェースが、この文脈においてこの行動を提案する権利を持っている。
5. 範囲：行動が、サイトが明示的に公開または許可している範囲を超えない。
6. 帰結：期待される結果が、実行前に理解可能である。
7. 確認：慎重を要するステップを、確認、取り消し、またはエスカレーションできる。
8. トレース：行動または不行動を、事後に説明できる。

これらのチェックのいずれかが欠けている場合、その行動は格下げされるべきである。格下げの形は、明確化、行動の差し控え、シミュレーション、人間への推奨、または正当な非回答である。

回答の正当性との違い

回答の正当性は、出力を生成する行為を統御する。行動の正当性は、出力から実行への移行を統御する。

出力は「このフォームで診断を依頼できる」と述べることがある。その回答は、公開されたページに基づいていれば正当でありうる。しかし、「ユーザーに代わってこのフォームを送信する」という行動には、追加の条件が必要である。正確なデータ、同意、正しく特定されたフィールド、検証状態、告知された帰結、そして範囲の逸脱がないことである。

行動の正当性が禁止するもの

行動の正当性は、とりわけ次のことを禁止する。

• ボタンが存在するというだけで権限を推論すること
• フォームを自動的な授権として扱うこと
• 情報提供のためのページを契約上の申込みに変換すること
• 慎重を要する行動を確認なしに送信すること
• 利用可能なツールを十分な権威として扱うこと
• もっともらしさを根拠に実行境界を越えること

ガバナンスのルール

行動の正当性は厳格でなければならない。エージェントが、行動するか、尋ねるか、エスカレーションするか、差し控えるかで迷うとき、正しいルールは流暢さを最適化することではない。権威の連鎖を守ることである。

したがって、エージェンティックな行動に対応できているサイトとは、あらゆるものを実行可能にするサイトではない。何ができるのか、何ができないのか、何に確認が必要なのか、何が範囲外にとどまらなければならないのかを明確にするサイトである。

インタラクションと制御

提案されているガバナンス下のエージェンティックウェブサイトの定義は、読み取り専用のインタラクションを含め、限定されたジャーニーの適格性確認に必要なルール、適用されるメカニズム、証拠を規定している。