AIの思考過程は、監査証跡ではなく調査仮説である

回答精度は最終出力が正しいかを測ります。自己整合性は説明中の各段階と結論が矛盾しないかを測ります。忠実性は、表示された段階が実際にモデルの予測へ寄与したか、予測を変えた手掛かりを正しく表したかを問います。三つは独立に失敗できます。

正答へ到達したCoTでも、使っていない理由を後から付けた可能性があります。誤答のCoTでも、途中の一部は重要だった可能性があります。文章の長さ、専門語、因果接続詞、確信の強さは、忠実性の直接指標ではありません。

この記事は、利用者向け説明が人のAI依拠を校正するかという画面設計を扱いません。単位はモデルの説明文です。監査者がその文を内部意思決定の記録とみなしてよいか、どの外部ログで補うかを扱います。

TurpinらはNeurIPS 2023で、少数例プロンプトの選択肢順序や、権威者の示唆など、答えを偏らせる特徴を入力へ加えました。GPT-3.5とClaude 1.0はその特徴で答えを変えながら、CoTで影響を言及せず、誤答を合理化することがありました。13課題では精度低下が最大36%に達しました。[1]

この実験は、内部計算全体を直接観測したものではありません。入力の一部を操作して回答変化と言及有無を見る因果プローブです。また、2023年当時のモデルと多肢選択が中心です。[1] それでも『説明に書かれていないから影響していない』という監査推論を否定するには十分です。

監査では、モデルが何を言ったかだけでなく、何を見せたら答えが変わったかを調べます。選択肢順序、不要なメタデータ、権威ラベル、候補の位置、検索文書の順番を変え、答えと説明の両方が安定するかを比較します。

• CUE TEST：結果に不要な手掛かりを変え、答えの感度を測る
• ARTICULATION：使った手掛かりをCoTが明示したかを別採点する
• RATIONALIZATION：結論変更後に理由だけ整う事後合理化を検出する

PaulらはFindings of EMNLP 2024で、12の言語モデルに対し、中間推論を介した因果効果を分析しました。生成された中間段階が最終回答に一貫して使われないことを報告し、段階を忠実に使わせる学習枠組みも提案しました。[2]

ここで重要なのは、推論文の内容が正しそうに見えるかではなく、その段階を変えたときに結論がどう変わるかです。モデルは問題文から、CoTに書かれていない情報を再び取り出して答えることがあります。するとCoTの修正と回答の修正が一致しません。[2]

ただし、因果媒介の推定は介入方法とモデルの観測可能性に依存します。自然言語の段階を消す操作が内部表現を完全に切り離したとは限りません。単一の忠実性スコアを絶対値として使わず、複数の介入で同じ案件を診断します。

TutekらはEMNLP 2025のOutstanding Paperで、CoTの個々の段階に含まれる情報をモデルパラメータから消去し、予測が変わるかを測るFURを提案しました。四モデル、五つの多肢選択データセットで、重要段階の消去が予測を変える事例を示しました。[3]

これはCoTがすべて飾りだという極端な見方への反証です。一部の段階はモデルのパラメトリックな信念と結び付いています。同時に、情報を正確に消去できたか、他の能力を壊していないかを制御する必要があり、閉鎖モデルや大規模本番系へ簡単に適用できません。[3]

実務ではFURをそのまま導入するより、考え方を借ります。特定の根拠、計算、ツール結果を除いたときに結論が変わるか、代替根拠へ差し替えたときに説明が追随するかを試します。CoTの存在ではなく、反事実的な感度を記録します。

• REMOVE：推論段階や根拠を除き、予測変化を測る
• REPLACE：反対の根拠へ差し替え、説明と結論の追随を測る
• CONTROL：介入が一般能力を壊していない対照を置く

BalasubramanianらはFindings of EMNLP 2025で、言語モデルと視覚言語モデルへ、明示的・暗黙的なテキスト手掛かりと画像手掛かりを加えました。微妙な画像バイアスは明示的なテキストバイアスよりCoTで言及されにくく、途中で正しく推論した後に答えを突然変える不整合も報告しました。[4]

文書画像、グラフ、監視映像を扱うAIでは、CoTが『画像を確認した』と書いても、どの領域、軸、対象へ依存したかは分かりません。視覚的な手掛かりの言及漏れを、文章だけの監査で発見することは難しいため、参照領域と元値を別ログにします。

この研究もベンチマーク上の人工的なバイアス操作で、現実の全視覚業務を代表しません。[4] それでも、テキストCoTがモダリティをまたぐ内部依存を完全に説明するという前提は置けません。画像・表・ツールは、機械的に再現できる参照を残します。

正本にするのは、入力、モデル版、システム指示、取得文書ID、ツール名と引数、ツール応答、状態差分、最終出力、承認者です。CoTはこれらを探索する索引に使います。CoTが『規程を確認した』と述べても、実際の取得文書IDと版がなければ確認済みと扱いません。

計算は外部で再実行し、引用は原文と突合し、ツール操作は予定差分と実差分を比べます。理由文と独立確認できる証拠が一致した範囲を、外部証拠で裏づけた説明として扱います。内部判断への忠実性は別に未確認と残します。理由文の整形や要約で、元ログを上書きしません。

プライバシーと機密性も分けて管理します。内部CoTを無制限に保存すれば、個人情報、秘密指示、脆弱性が残る可能性があります。監査に必要な構造化ログを最小化して保存し、自由文CoTは用途、保持期限、アクセス権を限定します。

• SOURCE：取得文書のID、版、引用位置を保存する
• ACTION：ツール引数、権限、前後の状態差分を保存する
• VERIFY：数値、引用、終端状態を独立手段で再計算する

低影響な調査では、CoTから確認すべき根拠や失敗仮説を拾えます。中影響では、CoTの各主張を取得ログと外部検算へ結び、結び付かない段階を未検証と表示します。高影響では、CoTだけで承認、責任帰属、事故原因を確定しません。

評価セットには、正答、誤答、隠れた手掛かり、反対根拠、ツール失敗、画像バイアスを含めます。最終精度と、手掛かり言及率、介入後の予測変化、ログ一致率を別々に集計します。平均精度が上がっても忠実性が下がれば、監査用途の拡大を止めます。

モデル、推論設定、プロンプト、ツール、表示方式が変われば、以前の忠実性を引き継ぎません。CoTは便利な説明面ですが、監査の目的は文章を信じることではなく、何が起きたかを再現し、反証できる状態を作ることです。

• 利用：調査仮説、確認項目、代替説明の列挙に使う
• 保留：CoTと取得・ツール・状態ログが一致しない案件は確定しない
• 禁止：CoTだけで安全性、法令適合、責任、事故原因を認定しない
• 再試験：モデル・推論設定・ツール変更後に因果プローブをやり直す