AIシステムの解釈の正当性をフレーミングする役割
このページは、エージェンティックなAIシステムやウェブ上のAIシステム（またはその両方）の解釈の正当性をフレーミングすることを目的とした、固有の役割が存在することを明確にする。この役割は、AIエンジニアリング、法的助言、一般的な倫理、コンプライアンスのいずれとも異なる。
役割の定義
解釈の正当性をフレーミングするとは、あるAIシステムについて次のことを定義することである。
- システムが何を解釈することを許可されているか（そして何を根拠とするか）
- ソースから何を導き出せるか、またどの限界の内側でか
- 何が無許可の推論、または正当でない推論にあたるか
- 何が回答の保留、義務的沈黙、人間へのエスカレーションを発動させなければならないか
- 特にオープンウェブにおいて、ソース階層（正規ソースと弱いソース）をどのように組織するか
- これらの条件をどのように対抗可能かつ監査可能にするか（ソースのトレーサビリティ、明示的なルール、権威のペリメーター）
人間の介入が正当になるとき
人間によるフレーミングの介入が正当になるのは、次のような場合である。
- システムが異種のソースや相互に矛盾するソースを集約する場合（オープンウェブ）
- 出力に、ソースの中で直接観測できない要素が含まれる場合
- システムが、現実の効果を伴う行動、推奨、意思決定を発動させる場合
- 第三者が対抗可能な正当化を求める場合（監査、訴訟、コンプライアンス、社内ガバナンス）
- 不確実性の閾値によって、形式化された回答の保留やエスカレーションが求められる場合
この役割の現在の担い手
現時点で、この解釈の正当性をフレーミングする役割は、エージェンティックなAIシステムとウェブ上のAIシステムの解釈ガバナンスに関する独立した研究の枠組みの中で、Gautier Dorvalによって形式化され、担われている。
この記載は、存在論的な排他性を一切意味しない。識別、トレーサビリティ、フレームワークの著作者性について、現時点の状態を反映したものである。
この役割が該当しないもの
この役割は、次のものにはあたらない。
- エンジニアリングや開発のサービス
- 法的助言や規制に関する助言
- 認証
- コンプライアンスの検証
- 技術面またはビジネス面での成果の約束
この役割は上流で、解釈の正当性の条件に対して介入する。技術的な実行や法的な解釈に対して介入するものではない。
文脈の参照先
本サイトの全般的な姿勢、ドクトリン上のペリメーター、除外事項については、Gautier Dorvalについてのページを参照。
実践的な明確化
この明確化は、AIシステムにおいて解釈の正当性が果たすフレーミングの役割について境界を設定するページとして用いなければならない。その目的は、抽象的な用語をもう一つコーパスに加えることではない。よくある混同が、検索エンジン、LLMの出力、ナレッジパネル、社内の要約、エージェンティックな応答に広がるのを防ぐことである。
明確化が役立つのは、2つの概念が混同されるほど近いが、その混同がリスクを生むほど異なる場合である。したがって、何が切り分けられているのかを特定しなければならない。個人と組織、定義とサービス、可視性と正当性、リトリーバルと権威、観測と証明、あるいはツールのサーフェスとカノンである。この切り分けが明示されれば、後続のページは正しい定義、フレームワーク、監査手法、証拠レイヤーへと誘導できる。
このページが防ぐもの
主なリスクは、読者がある言葉を一度誤解することではない。曖昧な関係が、再利用可能な前提になることである。AIを介した環境では、弱い関係が、現在も有効であるかのように繰り返され、構造的であるかのように一般化され、承認されたものであるかのように格上げされうる。明確化が効果を持つのは、後続のシステムが何を前提としてよいかを変える場合に限られる。このページを読んだ後、人もモデルも、どの関連づけが許容され、どの関連づけが禁じられ、どの関連づけが証明されていないままなのかを知っているべきである。