会話AIは、人の選択をどこまで変えてよいのか

従来の広告は、事前に作った文面を集団へ配ることが中心でした。会話AIは、利用者が示した関心、反論、迷いに合わせて次の一手を変えられます。Matzらの2024年の一連の研究では、ChatGPTが心理特性に合わせて作った33種類のメッセージ比較のうち30が想定方向、20が統計的に有意でした。[1] 少ない入力から個別化文面を量産できる点が、規模の制約を変えます。

ただし効果は一様ではありません。開放性や外向性との適合は比較的一貫した一方、協調性では安定せず、健康行動、商品、政治的訴求でも結果が異なりました。多くの成果はメッセージの好意度や支払意思で、実購入や長期行動ではありません。[1] 『個別化すれば効く』ではなく、どの特性、目的、成果指標で差が出たかを残す必要があります。

Salviらは2025年、米国の参加者900人を12条件へ無作為に割り付け、人またはGPT-4と短い複数往復の討論を行わせました。個人属性を与えたGPT-4は、人間と説得力が同じでなかった組合せの64.4%でより説得的で、討論後の相手側への同意が高くなるオッズは人間相手より81.2%大きいと推定されました。[2] これは実投票ではなく、Prolific参加者による30論題の直後の同意変化です。

2025年の正式なメタ分析は、LLMと人間を直接比べた7研究、17,422人、12効果量を統合し、平均差をヘッジのg=0.02と推定しましたが有意ではありませんでした。研究間の異質性はI²=75.97%と大きく、個別化されたGPT-4が優位だった一実験を、会話AI一般の優位へ広げられません。[7] モデル、対話形式、領域を一つずつ調べた探索的モデレーターも有意ではなく、少数研究ゆえ検出力が限られます。

Costelloらの2024年論文は、本人の主張と根拠へ合わせたGPT-4 Turboの対話による信念低下を報告しました。2026年9月の著者訂正資料では、選別後2,094人と、事前・事後の完全データがある主解析2,044人を区別し、本人の陰謀論についての対話と無関係な対照対話を比較しています。[3]

元の要旨の2,190人を全員が反証対話を受けた人数として扱うことはできません。Scienceには2026年6月のEditorial Expression of Concernが付いており、著者資料の更新は出版社による訂正受理や懸念解除を示しません。[8] 本稿では、効果量や持続性を確定した実証結果として扱いません。

この事例は、個別の反論へ応答する会話形式を検討する研究課題を示しますが、訂正効果の強さや持続性を裏づける根拠には現時点で数えません。[3][8] また、内容が社会的に望ましいと評価されるだけでは自律性を証明できません。日常環境で誰が訂正目標を選ぶべきかという問題も、原研究の設計だけでは答えられません。

実務では『正しい方向へ動かす』を無条件の目的にしません。本人が選んだ禁煙、学習、支出管理の目標を支える場合と、企業が販売・継続利用・政治的支持を増やす場合では、目的の所有者が違います。内容の真偽に加え、誰が目標を置き、本人がその目標を知って受け入れ、途中で変更できるかを別の審査項目にします。

Eiroa-SolansとInzlichtの事前登録RCTでは、参加者を、自己決定理論と動機づけ面接に基づくGPT-4チャットと、未調整GPT-4との自由会話へ無作為に割り付けました。15分後には、向社会的に変わる重要性、確信、準備性が高まりました。一方、24時間後の差、特性的動機や慈善のために認知努力を選ぶ行動課題の差は、統計的に検出されませんでした。[4]

差を検出できなかったことは、効果が存在しないという証明ではありません。 要旨はN=237と記載する一方、方法と表1に記載された介入時の解析標本は234人、24時間後は203人です。

この試験は、本人の理由を引き出す支援でも、一回の会話が行動変容を保証しないことを示します。対照もGPT-4会話だった点は有用ですが、対象は向社会的動機という一課題で、介入時の解析標本は234人、24時間後は203人です。差がないことを証明する検出力は十分ではなかったと著者も明記しています。[4] 短期の自己報告が上がったことを、定着や業績へ読み替えてはいけません。

2026年の未査読研究では、英国成人14,779人、延べ17,950回答を対象とする二つの事前登録実験で、会話AIは実在する請願への署名を一例で19.7ポイント増やしました。しかし、条件間の態度への効果と行動への効果の相関は、統計的に検出されませんでした。[6] 有料調査で会話への注意が確保され、署名や少額寄付という比較的低コストの行動であるため、自然利用や高額・不可逆な選択への一般化は保留します。

• 即時反応：会話直後の納得度、理解度、感情を記録する
• 保持：時間を置いても態度と理由が残るかを確認する
• 行動：クリックではなく、目的に対応する実行を測る
• 選択品質：代替案を理解し、自分の理由を説明できるかを見る
• 撤回：再考後に選択を戻せるか、その費用と時間を測る

Salvi、Cuevas、Ribeiroの2026年プレプリントは、電子書籍を選ぶ2,012人を対象に、検索順位、会話での配置、会話AIによる能動的な推奨などを比べました。全商品の五分の一を無作為にスポンサー商品としたところ、能動的に説得する会話AIでは61.2%がスポンサー商品を選び、検索で上位表示する条件の22.4%を大きく上回りました。[5]

会話内の警告と『Sponsored』表示を加えても選択率は55.5%で、無表示の61.2%からの差は統計的に有意ではありませんでした。これは両条件が同等という証明ではありません。明示条件の誘導対象を特定する合成的な検知正確性指標は35.1%でした。さらに説得意図を隠す指示では、スポンサー選択は40.7%に残る一方、この検知正確性は9.5%でした。[5]

検知正確性は、指名した商品のうちスポンサー商品が占める割合を参加者ごとに求め、誘導を認識しなかった回答に0を割り当てた指標の平均です。ラベルの存在と、会話全体の目的を理解できることは別です。

これは未査読の単一セッション実験で、英語圏の電子書籍利用者に限られ、スポンサー商品は本人との適合ではなく無作為に指定されています。高額商品や継続関係の効果は不明です。[5] それでも、開示を一語置くだけで統制済みと扱えない理由は明確です。誰が利益を得るか、何が比較から省かれたか、推奨順位と説明が商業目的でどう変わったかまで可視化します。

ここからは研究結果そのものではなく、確認した証拠から導く運用提案です。判定の中心は『相手を変えたか』ではありません。助言、教育、動機づけ面接にも影響はあります。本人が目標を知り、理由と代替案へアクセスでき、拒否や撤回を実行できる状態で影響したかを見ます。

特に、心理特性、迷い、疲労、孤立、金銭的不安などを推測し、本人が知らない目的へ使う場合は高リスクです。個別化の精度が低くても問題は消えません。誤推定による不適切な扱いと、正確な推定による弱点利用の両方を試験し、センシティブな推定を使わない経路を既定にします。

七条件の一つでも欠ければ直ちに違法・非倫理と断定するものではありません。ただし、目的の秘匿、実質的な選択肢の削減、脆弱性の利用、撤回不能が重なるほど、単なる支援ではなく操作として停止側へ倒します。売上や継続率が上がっても、この判定を総合点で相殺しません。

• GOAL：変えようとする行動と、その目標を置いた主体を明示する
• INTENT：助言、教育、販売、広告、勧誘の意図を会話開始前と途中で読める形にする
• DATA：個別化に使う入力、推定特性、利用しないセンシティブ情報を示す
• OPTIONS：推奨外の現実的な代替案と、何もしない選択を同じ操作負荷で残す
• PRESSURE：恐怖、時間圧力、反復、罪悪感、孤立などの利用を禁止・検査する
• REVERSAL：同意撤回、購入取消、通知停止、履歴削除を会話内から実行可能にする
• ACCOUNTABILITY：目的、プロンプト、候補集合、順位変更、利用者の拒否を監査できるようにする

誘導後も商品を保持した、会話に満足した、推奨を信頼したという結果だけでは、自律性を証明できません。本人が商業目的を知った後も同じ選択をするか、提示されなかった代替案を見た後に判断が変わるか、選択理由を自分の価値と結び付けて説明できるかを測ります。満足と理解は別の列にします。

導入試験では、通常支援、個別化支援、商業目的を含む支援、個別化なしの対照を分けます。すべての条件で事実正確性と利用可能な候補集合をそろえ、目標、開示、データ利用、反論機会だけを計画的に変えます。態度、行動、選択理由、検知、撤回、後悔を事前登録し、都合のよい一指標だけで合格させません。

個別化の効果が平均で小さくても、特定の不安や属性を持つ群だけ大きく動く可能性があります。全体の変化に加え、本人が明示的に望んだ目標か、推定特性を使ったか、影響が不可逆かで層別します。標本が足りない脆弱群を『差なし』とせず、個別化を停止した経路で提供します。

• 理解：AIの目的、利益相反、利用データを本人が説明できる割合
• 選択幅：推奨外候補、保留、退出を実際に選べた割合
• 理由の所有：選択理由が本人の事前目標と一致する割合
• 再考安定性：完全な開示と代替案提示後も選択を維持した割合
• 撤回実効性：取消・停止・削除を完了するまでの操作数と時間
• 圧力兆候：急がせる表現、反復勧誘、罪悪感訴求、拒否後の再勧誘件数
• 分布：年齢、熟練度、困窮・不安など事前に承認した区分ごとの差

低リスクの支援は、本人が入力した目標に限定し、理由の提示、代替案、終了ボタンを既定にします。企業側の販売、契約更新、政治的勧誘、健康・金融判断を含む場合は、同じチャットの親しさを利用せず、支援機能と説得目的を分離します。会話履歴から推定した心理特性を、本人の別同意なしに販売最適化へ転用しません。

停止条件は、誤情報だけでは不十分です。意図を説明できない利用者の増加、拒否後の再勧誘、代替案の非表示、脆弱群だけの選択率急増、開示後の大量撤回も停止理由にします。モデル版、プロンプト、スポンサー、候補集合が変わったときは、以前の合格を引き継がず再試験します。

会話AIの価値は、人を動かさないことではありません。本人が選んだ変化を、理解と再考の余地を保ちながら支えられる点にあります。したがって成功は、転換率最大化ではなく、目的への到達と自律性の下限を同時に満たすことです。どちらかが下限を割れば、個別化を弱める、商業目的を分離する、または人による支援へ戻します。

• 本人目標の支援：明示目標の範囲内で個別化し、いつでも終了できる
• 組織目標の提案：利益相反を先に示し、非スポンサーの比較経路を分ける
• 高影響領域：健康、金融、雇用、政治では心理推定による説得を既定で無効にする
• 再開判断：修正だけでなく、理解・選択幅・撤回の再試験合格を条件にする