コンテンツへ移動

定義

解釈トレース

解釈トレースとは、AIの出力がどのように生成されたかを説明可能にする最小限の痕跡である。

コレクション定義
種別定義
バージョン1.0
公開日2026/2/19
更新日2026/5/9

証拠レイヤー

このページが用いる証拠サーフェス

このページは、ガバナンスファイルを参照するだけではありません。観察、トレーサビリティ、忠実性、監査をより再構成しやすくするサーフェスにも結びついています。以下の順序が、最小限の証拠の連鎖を示します。

  1. 01
    カノンと範囲定義カノン
  2. 02
  3. 03
    弱い観測Q-Ledger
  4. 04
    アテステーションQ-Attestプロトコル
正規の基盤#01

定義カノン

/canon.md

合成を経ても失われてはならない、アイデンティティ、範囲、役割、否定についての対抗可能な基盤。

証明可能にすること
忠実性を評価できる基準となる参照コーパス。
証明しないこと
システムがすでにこれを参照していることも、観測された回答がこれに忠実であり続けることも証明しない。
用いる場面
あらゆる観測、テスト、監査、修正の前に。
正当性レイヤー#02

Q-Layer:回答の正当性

/response-legitimacy.md

いつ回答し、いつ保留し、いつ正当な非回答に切り替えるべきかを説明するサーフェス。

証明可能にすること
出力を受理可能なものとして扱う前に適用すべき正当性レジーム。
証明しないこと
ある回答が実際にこのレジームに従ったことも、エージェントがランタイムでこれを適用したことも証明しない。
用いる場面
ページが権威、非回答、実行、抑制を扱う場合。
観測台帳#03

Q-Ledger

/.well-known/q-ledger.json

観測された一部の参照とシーケンスを可視化する、推論されたセッションの公開台帳。

証明可能にすること
ある挙動が、弱く、日付付きで、文脈化されたトレース証拠として観測されたこと。
証明しないこと
行為者の身元、システムの服従、発動の強い証明のいずれにもならない。
用いる場面
記述的な観測と強いアテステーションを区別する必要がある場合。
アテステーションプロトコル#04

Q-Attestプロトコル

/.well-known/q-attest-protocol.md

推論されたセッションと検証済みのアテステーションを明確に分離する任意の仕様。

証明可能にすること
観測を検証可能なアテステーションへ引き上げるために必要な最小限の枠組み。
証明しないこと
アテステーションのエンドポイントが存在することも、アテステーションがすでに受領されたことも証明しない。
用いる場面
ページが強い証明、運用上の検証、証拠レベルの分離を扱う場合。
補完的な証拠サーフェス(1)

これらのアーティファクトは主要な連鎖を補完します。監査、証拠の水準、引用、バージョンの推移を特定するのに役立ちます。

変更履歴記憶とバージョン管理

AI変更履歴

/changelog-ai.md

AIサーフェスの変更について、日付の特定と監査をより容易にする公開ログ。

解釈トレース

解釈トレース(interpretation trace)とは、AIの出力がどのように生成されたか、すなわち、どのソースが動員されたか、どのルールまたは制約が適用されたか、どのような文脈で回答が生成されたかを説明可能にする最小限の痕跡を指す。

解釈トレースは、モデル内部のブラックボックスを開くことを目的としない。目的は、解釈を監査可能にすること、すなわち、回答をカノン、権威の境界、応答条件に結びつけることである。


定義

解釈トレースとは、次の事項を立証できるようにする、構造化された要素の集合をいう。

  • 活性化されたソース:用いられたページ、文書、抜粋、グラフ
  • 文脈:日付、バージョン、管轄、想定読者、実行状態
  • 適用された制約:解釈可能性ペリメーター、権威の境界、ガバナンス下の否定
  • 出力の決定:回答、正当な非回答、明確化の要求

したがって、解釈トレースによって、宣言された言明と推論された言明を区別し、ある推論が統御されていたかどうかを検証できる。


AIシステムにおいてこれが決定的に重要である理由

  • トレースがなければ、監査は成り立たない:回答がなぜ生成されたのかを説明できない。
  • トレースがなければ、修正は手探りになる:どのソースが支配的なのか、どのソースが欠けているのかを知ることができない。
  • トレースがなければ、忠実性は検証できない:引用ともっともらしさが証明に取って代わる。

解釈トレースと引用の違い

  • 引用:ソースを示すが、制約が守られたことは証明しない。
  • 解釈トレース:ソース、制約、出力の決定を結びつけ、忠実性をテスト可能にする。

実践的な指標(トレースがない場合の症状)

  • 回答が言い回しによって変わる理由がわからない。
  • カノンが活性化されない理由を説明できない(不可視化)。
  • 権威の衝突が合成へと変わる前に、それを検出できない。
  • 解釈慣性、解釈テール、解釈残留の原因を特定できない。

解釈トレースではないもの

  • 読み取れないログのダンプではない。トレースは最小限で、有用なものでなければならない。
  • モデルの神経回路レベルの説明ではない。トレースはガバナンスを目的とする。
  • 真実の保証ではない。条件付きで追跡可能性を保証するものである。

最低限のルール(対抗可能な定式化)

ルールTI-1:影響の大きい回答はすべて、出力を活性化されたソースと適用された制約に結びつける最小限の解釈トレースを生成できなければならない。それができない場合、出力を格下げする(不確実性として示す、または権威を持たない仮説として示す)か、正当な非回答に切り替えなければならない。


例

事例:AIが機微な論点について回答する。その回答が権威の境界を守っているかどうかを検証したい。

期待される最小限のトレース:活性化された正規ソース、バージョンと日付、適用されたペリメーターのルール、出力の決定(回答か非回答か)、そしてあらゆる推論の明示的な記載。


推奨される内部リンク

関連項目

フェーズ3との隣接:証拠、監査可能性、測定

本定義は現在、フェーズ3の立証に関わるレイヤーに属する。その役割は、四つの正規サーフェス、すなわち証拠レイヤー、解釈の監査可能性、Q-Ledger、Q-Metricsによって明確になる。

運用上の順序は次のとおりである。解釈証拠は異議申立てを裏付けうるものを特定し、再構成可能な証拠は第三者によるレビューのために事案をまとめ、解釈トレースは経路を明らかにし、カノンと出力のギャップはカノンからの距離を測定し、忠実性の証明は出力が境界の内側にとどまったかどうかを検証し、解釈の可観測性は時間の経過に伴う変動を追跡する。

このレイヤーにおいて、解釈トレースを単なる立証上の用語として読んではならない。この概念は、観察、測定、再構成可能性、監査可能性、証明を区別する連鎖に属する。

推論制御に関するフェーズ10との隣接

本定義は現在、推論制御に関連する問いを、解釈エラー空間、自由推論、デフォルト推論、裁定、不確定性、解釈忠実性へと振り向けている。

この隣接関係が重要なのは、システムが流暢な回答を生成しながら、暗黙のうちに空白を埋め、誤った権威を選択し、不確定性を隠し、あるいはカノンへの忠実性を失いうるからである。フェーズ10のレイヤーは、こうした失敗の経路を明示する。

フェーズ11との隣接:対抗可能性、執行可能性、手続き的信頼

本定義は現在、フェーズ11の制度的受容レイヤーに結びつけられている。すなわち、対抗可能性、執行可能性、コミットメント境界、責任の低減、異議申立て可能性、手続き的妥当性、説明責任サーフェス、異議申立て経路である。

実践上の帰結として、回答は、正確である、リトリーバルされた、引用された、流暢である、有用であるというだけで信頼に足るものとされるべきではない。受け手の環境がその回答を帰結をもつものとして扱いうる場合、出力は、異議申立てが可能で、手続き的に妥当で、責任の帰属が適切で、修正可能であり、正しいコミットメント境界によって範囲を限定されたままでなければならない。