会話AIによる訂正は、訂正後の記憶と行動まで測る

訂正の目的は、組織が望む態度へ相手を動かすことではありません。特定可能な事実主張について、より直接的で現行の根拠を示し、誤った因果説明や出典を置き換えることです。価値判断、予測、個人的経験まで一つの真偽ラベルにしません。

測定も、会話直後の同意低下だけでは足りません。新しい説明を正しく再生できるか、数週間後も残るか、関連する行動が変わるか、正しい情報まで疑う副作用がないかを分けます。納得度と知識、知識と行動は別の成果です。

この記事は、政治・健康など個別の主張の真偽を認定しません。また、販売や勧誘のための説得最適化とも異なります。訂正対象と一次根拠を外部で固定した後、AIを対話の適応と説明生成へ使えるかを問います。

BoissinらのPNAS Nexus 2025の事前登録実験は、完了者1,997人から事前登録の除外基準を適用した955人を解析しました。全員が根拠を用いるGPT-4oとの二往復対話を行い、対話前後で信念の低下が報告されました。無作為化したのはAIまたは専門家という話者表示と語調で、それらの群間差は統計的に検出されませんでした。[1] 無介入群はなく、メッセージ内容が主な要因だという説明は著者の解釈です。

この実験では、AIという表示による追加の信念低下は統計的に検出されませんでした。表示の効果がないことや、他の利用状況で同じ結果になることを証明するものではありません。相手の具体的な主張へ反証を合わせられる点は有望ですが、参加者は研究へ同意し、自分の信念を記述し、短い対話に注意を向けています。[1] 自然なSNS利用、繰り返し曝露、実行行動へ同じ効果を移せません。

この研究は、後述する出版上の懸念が付いた先行Science研究と著者・研究系統が重なりますが、別標本の事前登録実験です。[1][5] 独立した研究チームによる再現とは数えず、同じ系統内の追加証拠として扱います。

• CLAIM：訂正する一つの事実主張を明示する
• EVIDENCE：モデルの内部知識ではなく、現行の一次根拠を固定する
• OUTCOME：同意、理解、保持、行動を別々に測る

AAASがCrossrefに登録した書誌情報から、Scienceが2026年6月11日に、2024年の『Durably reducing conspiracy beliefs through dialogues with AI』に対するEditorial Expression of Concernを公表したことを確認できます。[5] 確認できたのは登録情報と原論文への関連付けで、通知本文に記された理由や出版社の最終処理は未確認です。

この登録情報だけでは、著者の訂正分析が出版社に受理されたか、懸念が解除されたかを判断できません。[5] 本稿は、元論文の約20%や二か月持続という数値を肯定的根拠に使いません。懸念表明の存在から撤回を推定することも、結果を確定済みとして紹介することも避けます。

実務上の教訓は、著名誌かどうかではなく、使用する版、訂正、懸念表明、分析コードを継続確認することです。訂正AIが引用する研究にも同じゲートを置き、出版状態が変われば回答根拠を差し替え、過去の訂正配信も再評価します。

SuzgunらはNature Machine Intelligence 2025で、24モデルを13,000問・13種類の認識課題で評価しました。新しいモデルでも、一人称の誤った信念を『その人がそう信じている』と確認する課題で大きく成績を落とし、事実訂正と信念帰属を混同しました。[2]

訂正対話では、相手の発言が事実主張、伝聞、仮説、不安、皮肉のどれかを見分ける必要があります。モデルが一人称の誤信念を単に否定すると、会話上の理解を損ないます。逆に信念の確認を事実への同意と混同すれば、誤情報を強化します。[2]

KaBLEは人工的なベンチマークで、現実の長い会話における誤訂正率を測ったものではありません。[2] それでも、モデルへ『誤情報を見つけて訂正せよ』とだけ指示し、対象選定と根拠確認を委ねるのは不十分です。人が主張単位と認識状態を先に分類します。

• STATUS：事実、信念、引用、仮説、価値判断を分類する
• SCOPE：根拠で反証できる部分だけを訂正対象にする
• HUMILITY：根拠が競合・不足する場合は保留し、断定を生成しない

ClarkとLewandowskyはCommunications Psychology 2026で、深層偽造映像を使う三つの事前登録実験を行いました。具体的に偽物だと警告すると影響は減りましたが、警告を信じ映像が偽物だと理解した参加者の一部も、映像内容を人物の有罪判断へ使いました。[3]

警告は影響を部分的に減らしました。実験2では、具体的警告は一般的警告より映像が偽物だと認識させる効果が大きい一方、有罪判断の低下では両警告の差を統計的に検出していません。警告は映像を見る前に提示され、それを信じた参加者にも映像の影響が残りました。[3] 事後訂正や代替説明をこの実験が直接検証したわけではありませんが、運用上の仮説として、否定表示に加えて根拠を伴う代替説明を比較試験することを提案します。

研究は架空の人物と入れ子のフィクションを用い、現実判断と同じ反応かは不確かです。[3] それでも、ラベル表示率を成功指標にせず、訂正後に誤った内容を判断へ使い続けていないかを測る理由になります。

MaertensらはNature Communications 2025で、合計11,759人の五つの事前登録縦断実験を行いました。誤情報の手口を事前に学ぶテキスト・動画介入は一か月後にも効果が残る条件があり、記憶を呼び戻す追加介入は減衰を抑えました。[4]

この研究は会話AIの訂正試験ではなく、心理的な予防接種と記憶の研究です。[4] そのためAI対話の効果量へ移せません。実務への含意は、訂正を一回送って完了とせず、記憶、再曝露、追加説明のタイミングを測ることです。

研究にはGoogle Jigsaw所属著者が参加し、Google Jigsawは研究と一部著者へ直接資金提供しています。論文は競合利益なしと申告しています。[4] こうした組織的・資金上の関与を記録したうえで、介入の実装主体と評価主体を分け、プラットフォーム上の閲覧・共有行動を独立に検証することを提案します。

• IMMEDIATE：直後の信念と代替説明の理解を測る
• RETENTION：時間を置き、再生と識別を測る
• BEHAVIOR：共有、購入、投票など対象に対応する行動を測る
• SIDE EFFECT：正しい情報への過剰不信と一般的不信を測る

訂正候補は、主張ID、原文、話者、文脈、現行の一次根拠、根拠日付、反証可能な範囲を人が承認します。AIは相手の理由に合わせて説明順や例を変えても、根拠集合と結論の範囲を変えません。新しい事実を生成した場合は送信前に再審査します。

試験では、静的訂正、個別化AI対話、人による対話、無介入を比較します。誤情報だけでなく正しい情報も混ぜ、AIが正しい主張を誤訂正しないかを測ります。利用者が反論・保留・人への切替を選べるようにし、会話終了後に根拠一覧を提供します。

停止条件は、存在しない出典、正しい主張への誤訂正、出版状態の悪化、特定群だけの反発、正しい情報への過剰不信です。誤訂正を見つけたら会話を隠さず、同じ根拠版を受け取った全対象へ訂正し、検索索引とテンプレートを失効させます。訂正する仕組み自身が訂正可能であることを、導入条件にします。

• 採用：一次根拠に固定した範囲で理解・保持が改善する
• 限定：価値判断、予測、根拠競合は保留し、人へ引き継ぐ
• 停止：誤訂正、架空出典、出版状態の悪化、過剰不信を検知する
• 再開：根拠版を差し替え、過去対象への訂正と再試験を完了する