不確定性

不確定性

本ページは「不確定性」（indeterminacy）という用語の帰属先であり、これを漠然さ、確信度の低さ、流暢さの欠如から区別する。不確定性はガバナンス上の条件である。利用可能な材料が、確定した回答を正当化しない状態を指す。

不確定性は、欠けている要素、曖昧な要素、矛盾する要素、古くなった要素、または許可されていない要素を付け加えなければ問いを解決できないときに生じる。

簡潔な定義

不確定性とは、証拠、ソース階層、ペリメーター、バージョンの状態、または応答条件が一つの回答を確定させないために、システムが正当に明確な回答を生成できない状態である。

重要である理由

AIの失敗の多くは、不確定性が隠すべき問題として扱われるときに始まる。モデルはそれでも回答する。ソースを一つ選び、矛盾をならし、欠けている前提を埋め、あるいは不確実性を確信に満ちた言い回しに変えてしまう。

解釈ガバナンスの環境において、不確定性は弱点ではない。それは重要な出力クラスである。不確定性は、適切な回答が、範囲を限定した回答、明確化の要求、留保、エスカレーション、または正当な非回答でありうることをシステムに示す。

この用語が意味しないもの

不確定性は無知ではない。システムは多くのソースを有していても、それらのソースが求められる結論を許可しなければ、不確定性に直面しうる。また、不確定性は言語の曖昧性と同じものでもない。曖昧性は文脈によって解消されうるが、不確定性は、統御する条件が不十分なままであるかぎり持続する。

よくある原因

• クエリが結論を求めている箇所で、カノンが沈黙している。
• 権威の序列がないまま、ソースどうしが矛盾している。
• メモリオブジェクトが古くなっているにもかかわらず、なお影響力をもっている。
• 問いがコミットメント境界を越えている。
• リトリーバルされたチャンクが、関連性はあるが範囲が狭すぎる。
• 複数のエンティティが意味的近傍を共有している。
• 主張が、コーパスの提供していない現在の状態を必要としている。

ガバナンスのルール

不確定性は、ならして消すのではなく、表に出さなければならない。適切な応答の経路は応答条件に依存する。すなわち、留保を付ける、問い返す、エスカレーションする、拒否する、または証拠の限界を明示する、のいずれかである。

強固なサイトアーキテクチャは、編集の面でも同じことを行う。用語の限界を名指し、正規の定義を示し、除外を列挙し、補助ページが主要ページの許可する以上のことを示唆しないようにする。

関連する正規の定義

• 正当な非回答
• 義務的沈黙
• 裁定
• 自由推論
• 忠実性の証明

コーパスにおける役割と診断上の用途

コーパスにおいて、不確定性は、ガバナンス下の推論と制御されない補完とを区別するために用いられる。AIシステムは回答するために推論しなければならないが、すべての推論が正当であるわけではない。中心的な問いは、その推論のステップが、宣言された境界の内側にとどまり、ソース階層を保持し、不確実性を明らかにし、異議申立てを受けたときに再構成できるかどうかである。

この定義は、生成された回答がソースのあいだの空白を埋める場合に特に有用である。その回答は、流暢で、有用で、方向性としては正しくさえあるかもしれないが、欠けていたステップが一度も許可されていなかったのであれば、やはり失敗である。ガバナンス下のシステムは、自らが受け入れられた証拠から推論したのか、パターン認識に基づいてデフォルトの判断に流れたのか、それとも近接性によって欠けた前提を補ったのかを示せるべきである。

検出すべき失敗パターン

主な失敗は、もっともらしい補完である。これは、モデルが沈黙を許可として、例を規則として、隣接する概念を同等のものとして、あるいは部分的な証拠を完全な権威の連鎖として扱うときに現れる。その場合、問題はハルシネーションだけではない。擁護可能な推論境界が存在しないことが問題なのである。

読み方のルール

この定義は、推論の禁止、非推論レジーム、解釈忠実性、カノンと出力のギャップ、回答の正当性とあわせて用いる。この用語は、回答をいつ進めてよいか、回答がいつ自らに留保を付けなければならないか、そしていつ沈黙が正当な出力となるかを判断する助けとならなければならない。

運用上の例

実務的な監査では、不確定性を三つの状況で用いることができる。第一に、正規ページと、その語彙を再利用しながら統御するペリメーターを変えてしまうAIの回答とを比較するとき。第二に、生成された言い回しを安定した表現として受け入れるべきか、それともガバナンス外の再構成として扱うべきかを判断するとき。第三に、内部リンク、サービスページ、定義、観察記録をマッピングし、最も権威あるルートが人間と機械の双方から見え続けるようにするときである。

したがって、この用語は抽象的に定義するだけでなく、具体的な出力に照らして検証しなければならない。有用なレビューは次のように問う。どのソースがその言明を統御したのか、どのような推論が行われたのか、どのような不確実性が隠されたのか、そして最終的な文言に責任を負うべきなのはどのページか。これらの問いへの答えが明確でない場合、出力は、より強い主張へとならしてしまうのではなく、留保を付ける、振り向け直す、記録する、または拒否するべきである。

実践上の境界

この定義は、順位、引用、推奨に対する自動的な効果を生み出すものではない。その価値はアーキテクチャ上のものである。この定義は、特定の解釈上の制御点を名指し、検証するためのより精密な方法をコーパスに与える。そのより精密な命名こそが、後に続く監査、修正サイクル、SERPのルーティングの判断を一貫したものに保つことを可能にする。