AI認識ドリフト
AI認識ドリフト（AI perception drift）は、生成システムがエンティティ、ブランド、人物、提供内容、またはドクトリンをどのように再構成するかに関わる、概念上のサーフェスを名指す。この用語が解釈ガバナンスに属するのは、それが一回限りの誤りを記述するだけではないからである。それは、カノン、出力、読解の文脈、安定性の軌跡のあいだの関係を記述する。
このページは、gautierdorval.comのコーパスのためにAI認識ドリフトを安定化させる。フランス語の用語Dérive de perception IAとあわせて読むことができるが、この現象を単なるAI可視性の指標に還元するものではない。
簡潔な定義
時間、モデル、プロンプト、リトリーバルの文脈をまたいで観察される、AIによる表現の変化。
中心となる問いは、「そのエンティティは表示されるか」だけではない。より強い問いは、「そのエンティティは、その正確な役割、実際のペリメーター、正しいカテゴリー、適格な証拠、宣言された限界に従って再構成されているか」である。
ブランドは、AIの回答の中で可視であり続けながら、その回答が生み出す認識においてはドリフトしていることがある。引用されていても、誤って分類されていることがある。推奨されていても、誤った理由によることがある。過去の自分自身、競合、過度に一般的なカテゴリー、あるいは支配的になった外部の物語と結びつけられることがある。
この用語が意味しないもの
AI認識ドリフトは、ハルシネーションの同義語ではない。ハルシネーションは、孤立していたり、不合理であったり、明らかに誤っていたりすることがある。認識や表現のドリフトは、もっともらしく、反復可能で、読み手、回答エンジン、エージェントが利用できるほど整合的に見えるため、より危険になりうる。
また、これは単なるGEOスコア、シェア・オブ・ボイスの指標、引用数でもない。これらの測定は症状を検出しうるが、表現が忠実であることを証明するものではない。ドリフトについて語るには、出力を参照ソースと比較し、時間の経過、モデル間、またはクエリの文脈間での変動を観察しなければならない。
観察可能なシグナル
よく見られるシグナルには、次のものがある。
- 正規の根拠なしに、エンティティのカテゴリーが変わる
- 実際の差別化要因が回答から消える
- 過去の提供内容やアイデンティティが、引き続き記述を構造化している
- 競合や意味的に近接する存在が、支配的な比較の枠組みになる
- 推奨が、別のユースケース、対象者、価値へと移っていく
- 複数のモデルが、同じエンティティについて両立しないバージョンを再構成する
- 回答は肯定的なままだが、宣言されたカノンへの忠実性が低下する
これらのシグナルは、証拠の手がかりとして扱わなければならない。ベースライン、ソースコーパス、ソース階層が文書化されていなければ、これらのシグナルだけではドリフトを証明するのに十分ではない。
測定の条件
ドリフトは、参照状態が存在する場合にのみ測定できる。その参照状態は、正規ページ、定義のコーパス、エンティティグラフ、ドクトリンのマニフェスト、サービスページ、提供内容の概要書、ポリシー、またはソースの制御された組み合わせでありうる。
原則は単純である。カノンがなければ、変動の印象しかない。カノンがあれば、カノンと出力のギャップの性質を特定し、その反復を測定し、その伝播を検出し、修正をコンテンツ、セマンティックアーキテクチャ、曖昧性解消、証拠、サーフェス間のリンクのどこで行わなければならないかを判断できるようになる。
ガバナンス上の含意
ガバナンス上の含意は、単なる可視性から認識の安定性へと移行することである。エンティティがAIシステムに言及されているかどうかを問うだけでは、もはや十分ではない。問わなければならないのは、それが適格で、境界づけられ、最新で、検証可能なバージョンを通じて再構成されているかどうかである。
gautierdorval.comのコーパスでは、この用語は次のページとあわせて読まれなければならない。
これらのリンクは、読解ルートを構造化する。すなわち、正規ソース、生成された出力、観察されたギャップ、時間的な変動、解釈リスク、修正、そして解消である。
読み方のルール
AI認識ドリフトは、表現、カテゴリー、推奨可能性、フレーミング、忠実性の変化を、参照状態に照らして観察できる場合にのみ用いること。あらゆるAIの誤りに対する曖昧なラベルとして用いてはならない。
正しい問いは、「AIは間違っているか」ではない。正しい問いは、「AIはどの表現を、どのソースから、カノンからどれだけ離れた形で、どの程度の修正可能性をもって安定化させているのか」である。