AIの公平性は、平均精度と一つの点数では監査できない

NIST SP 1270は、AIバイアスを大きくsystemic、statistical and computational、humanの三つのカテゴリーで捉えます。偏りは訓練データやアルゴリズムだけでなく、制度、組織慣行、問題設定、担当者の認知、利用時の判断を通じても生じるため、モデルカードだけを読んでも監査は完結しません。[1]

最初に、AI出力が採用、融資、本人確認、コンテンツ表示などのどの判断へ入り、人が覆せるのかを図にします。同じ誤差率でも、候補を追加で確認する用途と、サービスを自動拒否する用途では被害が違います。公平性目標は抽象的な均等ではなく、回避すべき被害と許容できない誤りから逆算します。[1]

NISTIR 8280は189の顔認識アルゴリズムを99開発者から集め、1対1照合と1対多検索、偽陽性と偽陰性を分けて人口統計学的差異を評価しました。報告は多くのアルゴリズムで差異を確認する一方、アルゴリズム間の違いも大きく、高精度かつ差異の小さいものもあると示しています。[2]

したがって監査票には、対象母集団、照合・分類・順位付けなどのタスク、閾値、偽陽性・偽陰性、比較対象、サンプル数、信頼区間を残します。全体正解率だけをKPIにすると、少数集団の標本不足や、被害の大きい誤りが平均へ埋もれます。運用データが訓練・検証データと異なる場合は、別の母集団として再評価します。[2]

合否線は、全体精度の差からではなく、偽陽性と偽陰性が各集団へ与える不利益から別々に決めます。標本が少なく不確実性が大きい群は合格へ丸めず、測定不能として適用範囲を保留します。顔認識で見られた差の大きさ自体を転用せず、同じタスク、閾値、運用母集団で再測定することが移行条件です。[2]

Gender Shadesは3社の商用ジェンダー分類システムを、肌色とジェンダーの交差グループで評価しました。暗い肌の女性では誤分類率が最大34.7%だった一方、明るい肌の男性の最大誤分類率は0.8%で、単独属性や全体平均では見えにくい差を示しました。[3]

この結果を現在のあらゆる顔認識や生成AIへそのまま移すことはできません。それでも、性別だけ、人種だけという一軸集計に加え、交差する集団、集団内のばらつき、極端に小さい群を確認する監査設計は一般化できます。サンプルが少なければ『差がない』と結論せず、測定不能として追加データや利用範囲の縮小を選びます。[1] [3]

群間差の発生源はモデルだけとは限りません。撮影条件や入力品質、対象者の構成、閾値、担当者が再確認した割合を層別し、どの段階で差が広がるかを確かめます。[1] [3] 入力条件をそろえると差が縮むなら収集工程を、同条件でも残るならモデル・閾値を、出力後に広がるなら運用手順を優先して直します。

NISTの社会技術的分類、顔認識評価、Gender Shadesで観測された誤分類率の差は、全体値、誤り類型、集団、交差集団で見え方が変わることを示します。[1] [2] [3] これは因果的な効果量ではありません。監査では、異なる集計が違う結論を返す場合の優先規則を先に定めます。各数値の役割も固定します。

裁定票には、用途で回避すべき被害、対応する誤り類型、評価する母集団、比較基準、許容できない結果を一行ずつ置きます。全体精度と特定集団の偽陰性が逆方向へ動いても総合点へ平均せず、どちらを守る判断なのか、誰がその交換条件を承認したかを残します。交換条件を承認できない場合は、自動化する用途の範囲を縮めます。

仮想例として、全体の誤りが減る一方で、重大な不利益へつながる一群の偽陽性が増えた場合、平均改善を合格理由にはしません。適用範囲を狭める、当該群だけ人へ戻す、閾値を分けて再試験するという選択肢を並べ、被害定義に照らして条件付き承認か停止かを裁定します。どの選択肢でも残る被害は、未解決事項として別に残します。

標本が不足する集団は、合格でも不合格でもなく、判断に必要な証拠が欠けた状態です。そのまま恒久運用へ入らないよう、対象集団、欠けた誤り類型、現在の不確実性、暫定的に許す用途、禁止する用途、証拠を補う期限を『証拠負債』として別台帳へ起票します。負債が残る間に実行できる判断の上限も定めます。

証拠負債の解消は、件数を増やすことだけでは判定しません。実運用と同じ母集団・閾値・誤り定義で評価できるか、少数標本を全体平均へ吸収していないか、追加データの取得が新しい不利益を生まないかを再確認します。条件がそろわなければ、適用範囲を維持または縮小します。取得方法そのものの偏りも検討対象にします。

期限到来時には、負債を解消、延長、利用停止のいずれかへ必ず更新し、理由のない延長を許しません。苦情や再審査から当該群の失敗が見つかった場合は、定期日を待たず裁定票を開き直します。こうして『測れなかった』という空欄を、所有者と次の判断を持つ運用対象へ変えます。延長回数も履歴に残します。

• CONFLICT：競合する指標と、それぞれが表す被害を列挙する
• PRIORITY：守る誤り類型、対象集団、裁定責任者を定める
• DEBT：測定不能の理由、暫定用途、禁止用途、期限を記す
• RESOLVE：追加証拠で解消・延長・停止のいずれかへ更新する

測定結果は報告書で終わらせず、導入可否、適用範囲、人的確認、停止基準へ結びます。重大な不利益を自動決定する用途ほど、集団別の許容差を厳しくし、誤判定を訴えられる窓口、再審査する人、訂正までの期限を先に用意します。公平性の改善と全体性能の変化も同時に記録します。

運用後は入力分布、閾値、上流データ、利用者行動が変わります。月次・四半期といった固定周期だけでなく、モデル版変更、対象集団の拡大、苦情増加、誤判定事故を再監査のトリガーにします。監査担当を開発チームから独立させ、影響を受ける利用者や現場担当の観察を定量指標と同じ会議で扱います。[1] [2]

救済の実効性は、窓口の有無ではなく、異議申立てから再審査、訂正、影響回復まで追います。監査責任者は、集団別の誤判定に加え、申立てが受理されたか、判断が覆った理由、同型案件へ訂正が展開されたかを報告します。苦情や運用母集団の変化が事前条件を外れた時点で、定期日を待たず対象用途を縮小します。[1] [2]

• 平均値の前に、用途ごとの被害と誤りの種類を定義する
• 集団間だけでなく、集団内と交差属性の差を確認する
• 測れない小集団をゼロリスクとして扱わない
• 停止、再審査、訂正、再開の責任者と条件を決める
• 監査責任者：誤り類型と集団ごとの不確実性を併記する
• 業務責任者：測定不能な集団への適用可否を決める
• 救済責任者：再審査結果を同型案件の訂正へ接続する