公平なAI判断には、結果以外の手続がある

統計的公平性は、群間の配分や誤りの差を測ります。手続的公正は、決定過程が一貫し、偏りを抑え、本人の声を扱い、訂正可能かという別の問いです。どちらかで他方を代替しません。

Binnsらは、アルゴリズム判断への説明方式とシナリオを変え、人々の公正認知を実験的に調べました。説明の効果は一様でなく、判断文脈や説明の種類で変わることを示しました。[1]

公正に感じられることは、実際の配分が公正である証明ではありません。反対に、不利な結果への不満をすべて手続の失敗ともみなしません。認知と客観指標を並べます。

手続は結果が出た後の説明画面だけではありません。データ収集、入力確認、決定、通知、異議、再決定、救済の連続した経路です。

高影響判断では、結果監査と手続監査を別の責任者が行い、相互に参照します。良い平均結果で個別救済の欠如を相殺しません。

• 分配：誰が利益・不利益を受けたか
• 精度：誰にどの誤りが起きたか
• 手続：本人が理解・発言・訂正できたか
• 救済：誤りが期限内に修復されたか

説明は重要ですが、長い技術文書を表示しても、本人が判断理由を理解し行動できなければ手続的価値は限定されます。[1] 説明の存在と利用可能性を分けます。

モデルの特徴重要度だけでなく、使ったデータ、適用規則、閾値、決定主体、変更可能な情報を示します。内部計算の説明と、異議に必要な実務情報は同じではありません。

説明が操作方法を教え、システムをゲームしやすくする懸念があります。だからといって理由を隠すのではなく、個人の救済に必要な情報と、不正防止の詳細を分けます。

理由コードが定型的すぎると、個別事情を反映しません。逆に自由文だけでは一貫性を監査できません。構造化した理由と具体的な根拠を組み合わせます。

理解確認では、本人が何を訂正でき、次に何をすべきかを説明できるかを測ります。閲覧数や通知開封だけを成功にしません。

Leeらは、アルゴリズムによる資源配分の実験で、透明性だけでなく参加者が結果へ一定の制御を持つことが公正認知に関係することを示しました。[2] 情報を見せることと、声が反映されることは別です。

発言機会は自由記述欄を置くだけではありません。決定前に事情を提出でき、誰かが読み、判断へ反映し、反映しない場合は理由が返る必要があります。

結果制御には限界があります。本人が自由に点数を変更できるのではなく、誤データ訂正、例外証拠、代替案の選択、人再審査を正式な権限にします。

声を集めても決定へ影響しないなら、参加の演出になります。提出から処理、決定変更までを追跡し、反映率だけでなく妥当な却下理由を監査します。

発言した人だけ有利になる場合、利用能力の格差が生じます。言語、障害、時間、デジタルアクセスへ対応した複数経路を用意します。

• 事前発言：決定前に事情と証拠を出せる
• データ訂正：元情報と派生値を確認・修正できる
• 例外申請：通常規則で扱えない事情を審査する
• 人再審査：権限ある人が独立に見直す

採用、融資、保険、教育、医療、コンテンツ配信では、求められる説明、速度、専門性、本人参加が異なります。低影響の推薦で合格した手続を、高影響の権利判断へ移しません。

Starkeらの体系的レビューは、アルゴリズム判断の公正認知研究を整理し、手続・結果・個人差・文脈が複雑に関係することを示しました。[3] 一つの説明形式が普遍的に優れるとは言えません。

自動化の程度も影響します。AIが提案し人が決める場合、人が実質的に再評価したか、単に追認したかを確認します。人の署名だけで手続を人間化しません。

本人が人の判断を望む理由には、共感だけでなく、例外理解、交渉、責任主体へのアクセスがあります。どの機能が必要かを分解します。

文化や制度で公正の期待は異なります。単一国の実験から全地域の受容を決めず、現地の法制度と利用者参加で手続を調整します。

異議ボタンがあっても、理由が分からず、証拠を出せず、同じモデルが再判定するだけなら救済は弱いままです。申立て、受理、調査、再決定、訂正を分けます。

再審査者には元のAI得点を先に見せない方法も検討します。初期判断へのアンカリングを減らし、必要情報を独立に確認します。

期限を定め、進捗と担当を本人が確認できるようにします。高影響決定では、審査中に不利益が進む場合の一時停止も設計します。

異議を出したことで将来の得点やサービスが悪化しないかを監査します。報復の不在は規約だけでなく、申立て群の後続結果で確認します。

申立て件数が少ないことを高品質の証拠にしません。発見性、理解、費用、恐れ、諦めが件数を下げるため、模擬利用と聞き取りを行います。

誤りが認められても、元データ、下流システム、請求、記録が直らなければ救済は完了しません。訂正の伝播先をデータ系譜で追います。

不利益が既に発生した場合、再判定だけでなく、返金、機会の再提供、記録削除、関係先通知が必要な場合があります。補償の責任者と期限を決めます。

モデル改善のために異議データを使う場合、本人の権利と機密を確認します。救済を求めた人の情報を無条件に再学習へ回しません。

救済指標は、受理率ではなく、確定までの時間、覆り、下流訂正、本人通知、再発を含めます。見かけの迅速さのために異議を形式却下しません。

同じ原因の異議が繰り返される場合、個別対応だけで終えず、影響集合を特定し、過去判断を再審査します。

説明と異議を利用できる人だけが結果を改善できると、救済能力の差が新しい不公平になります。言語、読みやすさ、障害、費用、時間を監査します。

代理人、支援者、紙、電話、対面の経路を用意します。ただし本人の同意とプライバシーを守り、代理利用が新しいリスクにならないようにします。

複雑な証拠を提出できない人へ、組織側が保有データを示し、確認を支援します。本人にシステムの誤りを一から証明させません。

群別に、通知理解、申立て開始、完了、覆り、所要時間を見ます。全体平均が良くても、特定群だけ救済へ到達できないなら改善します。

自動化で処理が速くなっても、異議窓口の容量を減らしません。例外を理解する人の専門性は、標準処理の自動化後ほど重要になります。

モデル、閾値、データ、説明文、申立て画面、再審査体制の変更は、手続全体の変更です。モデル精度だけの回帰で承認しません。

変更前後で、結果差、理解、発言、訂正、異議、救済を比較します。異議が減っても理解や発見性が下がっていないかを確認します。

本番前に、誤データ、不利な結果、言語差、障害、緊急性を含む模擬利用を行います。成功経路だけでなく、救済経路を端から端まで試します。

責任表には、決定者、データ所有者、説明責任者、再審査者、救済実行者を置きます。外部ベンダーを使っても本人の窓口を分断しません。

手続的公正は、AI判断を受け入れさせる広報ではありません。本人が判断へ関与し、誤りを直し、不利益を回復できる実行可能な権利を、測定できる工程として作ることです。

月次手続SLA票には、サービス版・判断類型・影響群を記録し、通知・異議申立て・訂正・救済の所要時間と群間差の上限を定めます。重大な不利益判断で上限を超えた工程は自動判断を止め、独立した人手審査と臨時の異議窓口へ切り替えます。滞留案件の救済と工程是正を独立監査者が確認し、救済責任者が再承認してから自動処理を戻します。