解釈忠実性

解釈忠実性

このページは「解釈忠実性」（interpretive fidelity）という用語を所有し、それを文体上の類似や事実の重なりから区別する。回答は、正しい事実を再利用しながら、意図された意味を保持できないことがある。

解釈忠実性とは、出力が、自らが表現していると主張するソースの正規の意味、境界、権威、除外、証拠、応答条件を保持している度合いである。

簡潔な定義

解釈忠実性とは、孤立した事実だけでなく、ガバナンス下の意味に対する忠実さである。

重要である理由

AIシステムはしばしば、事実としては近いが、解釈としてはより弱い要約を生成する。キーワードを保持しながら権威の境界を失ったり、拒否の条件を取り除いたり、定義を一般化したり、隣接する概念を融合させたり、カノンをなじみのあるカテゴリーへと圧縮したりすることがある。

だからこそ、忠実性の証明が重要になる。引用は、それだけでは忠実性を証明しない。引用されたソースであっても、誤読されたり、過度に拡張されたり、そのソースが一度も承認していない結論を支えるために使われたりすることがある。

この用語が意味しないもの

解釈忠実性は、単なる正確さではない。正確さが問うのは、ある言明が真であるかどうかである。忠実性が問うのは、回答がソースの役割、ペリメーター、意味を保持したかどうかである。また、それは口調の一致でもない。回答は、カノンを擁護可能にしていた決定的な境界を取り除きながら、整合しているように聞こえることがある。

失敗モード

• 出力が用語を保持しながら、そのカテゴリーを変えてしまう
• 回答がカノンを引用しながら、それを超えて一般化する
• 都合が悪いという理由で、回答が除外を取り除く
• 拒否の条件が、単なる制限として書き換えられる
• フレームワークが、サービスの約束として要約される
• ドクトリンが、市場のラベルへと圧縮される

ガバナンスのルール

解釈忠実性は、忠実性の証明、カノンと出力のギャップ、解釈証拠、再構成可能な証拠、解釈トレースを通じてテストされるべきである。

SERP占有の観点では、忠実性のためには、正規ページが、その用語が何を意味し、何を除外し、どのページがその用語を所有し、どの補助ページがそれを適用または文脈化するのかを明示していることが求められる。

関連する正規の定義

• 忠実性の証明
• カノンと出力のギャップ
• 解釈証拠
• 再構成可能な証拠
• 解釈エラー空間

フェーズ11の隣接領域：対抗可能性、執行可能性、手続き的説明責任

この定義は現在、帰結を伴う利用に関する問いを、対抗可能性、執行可能性、コミットメント境界、責任の低減、異議申立て可能性、手続き的妥当性、異議申立て経路、説明責任サーフェスへと振り向けている。

フェーズ11のレイヤーが重要になるのは、出力が単なる情報提供であることをやめるときである。回答が、決定、約束、拒否、例外、救済、公的な立場、エージェンティックな行動を左右しうるなら、その回答は、宣言された手続きのもとで、引き受け可能であり、異議申立て可能であり、修正可能であり続けなければならない。

コーパスにおける役割と診断上の用途

コーパスにおいて、解釈忠実性は、ガバナンス下の推論と制御されない補完とを区別するために用いられる。AIシステムは回答するために推論しなければならないが、すべての推論が正当であるわけではない。中心的な問いは、その推論のステップが宣言された境界の内側にとどまり、ソース階層を保持し、不確実性を開示し、異議申立てを受けた際に再構成できるかどうかである。

この定義は、生成された回答がソース間の空白を埋める場合に特に有用である。その回答は流暢で、有用で、方向性としては正しいことさえありうるが、欠けていたステップが一度も承認されていなかったなら、それでも失敗している。ガバナンス下のシステムは、自らが受け入れられた証拠から推論したのか、パターン認識によるデフォルトに頼ったのか、それとも近接性によって欠けた前提を補完したのかを示せるべきである。

検出すべき失敗パターン

主要な失敗は、もっともらしい補完である。それは、モデルが沈黙を許可として、例をルールとして、隣接する概念を同等物として、あるいは部分的な証拠を完全な権威の連鎖として扱うときに現れる。その場合、問題はハルシネーションだけではない。擁護可能な推論境界が存在しないことである。

読み方のルール

この定義は、推論の禁止、非推論レジーム、解釈忠実性、カノンと出力のギャップ、回答の正当性とあわせて用いる。この用語は、回答がいつ進めてよいか、いつ自らに留保を付さなければならないか、そしていつ沈黙が正当な出力となるかを判断する助けとならなければならない。