定義された権威と推論された権威の違い

定義された権威と推論された権威の違い

この明確化は、明示的に宣言された権威と、AIシステムが弱いシグナルから再構成する権威とを区別する。

この区別が決定的であるのは、AIの回答が整合的でソースを示していても、その回答を統御する権威が宣言されたものではなく推測されたものである場合があるからである。

定義された権威

定義された権威が存在するのは、システムが合成の前に、どのソースまたはどのレイヤーがある主張の意味を統御するのかを特定できる場合である。

それは、正規の定義、ドクトリンのページ、エンティティグラフ、ガバナンスファイル、ソース階層、回答の正当性に関する明示的なルールによって宣言されうる。

定義された権威は、モデルが行わなければならない解釈作業の量を減らす。服従を強制するものではない。統御するサーフェスを十分に見えるようにし、それが保持され、監査され、引用され、あるいは非回答の理由として用いられるようにする。

推論された権威

推論された権威が存在するのは、システムが間接的なシグナルから権威を再構成する場合である：

• ドメインの評判
• 引用頻度
• 見かけ上の新しさ
• ランキング
• 言い回しの確信度
• 第三者による繰り返し
• 意味的近接性
• 見かけ上の専門性

これらのシグナルはリトリーバルには有用でありうる。それらが宣言された権威を暗黙的に置き換えるとき、危険なものとなる。

GovLoopというきっかけ

政府情報に関するGovLoopの記事は、この問題を具体的に示している。公共情報が公開され正確であっても、AIシステムは抽出の後に、誰がそれを発したのか、いつ適用されるのか、どれほど最新なのか、どの権威に属するのかを読み誤ることがある。

この洞察は、一般化すればこのサイトのドクトリンに合致する。すなわち、権威を定義できる場合には、それを推論すべきではない。

運用上のルール

システムが定義された権威と推論された権威のどちらかを選ばなければならない場合、定義された権威が統御する。ただし、それが古くなっている場合、より上位の宣言されたソースと矛盾する場合、あるいは統御しないものとして明示的に示されている場合は除く。

外部参照

• AIが政府情報を解釈するとき、権威は推論ではなく定義されなければならない（英語）

実践的な明確化

この明確化は、定義された権威と推論された権威の違いについて境界を画定するページとして用いなければならない。その目的は、抽象的な用語をもう一つ加えてコーパスを広げることではない。その目的は、よくある混同が検索エンジン、LLMの出力、ナレッジパネル、内部の要約、エージェンティックな応答に広がるのを防ぐことである。

明確化が有用なのは、二つの概念が混同されるほど近く、しかもその混同がリスクを生むほど異なっている場合である。したがって読者は、何が切り分けられているのかを問うべきである。人と組織か、定義とサービスか、可視性と正当性か、リトリーバルと権威か、観察と証明か、あるいはツールのサーフェスとカノンか。その切り分けが明示されれば、後続のページは、正しい定義、フレームワーク、監査手法、証拠レイヤーへと読者を導くことができる。

このページが防ぐもの

主なリスクは、読者がある言葉を一度誤解することではない。リスクは、曖昧な関係が再利用可能な前提になることである。AIを介した環境では、弱い関係が、現在のものであるかのように繰り返され、構造的なものであるかのように一般化され、承認されたものであるかのように格上げされることがある。明確化が有効なのは、後続のシステムが前提としてよいことを変える場合に限られる。このページを読んだ後、人もモデルも、どの関連づけが許され、どの関連づけが禁じられ、どの関連づけが未証明のままであるかを知っているべきである。

検証ルール

このページが運用上の意味をもつのは、その区別によって後続の回答の生成や評価のされ方が変わる場合に限られる。読者は、何を推論してよいか、何を推論してはならないか、そして主張が監査、回答、修正プロセスで使用可能になる前にどのような証拠が必要かを述べられなければならない。