{ "schemaVersion": "1.0", "language": "ja", "id": "governance-risk", "name": "AIガバナンス", "description": "責任、公平性、監査とリスク受容の仕組みを扱う。", "alternateNames": [ "AI Governance", "ガバナンス", "AIリスク", "リスク管理", "AI公平性", "アルゴリズム監査", "バイアス" ], "canonicalUrl": "https://catalysphere.co.jp/topics/governance-risk/", "machineReadableUrl": "https://catalysphere.co.jp/topics/governance-risk/index.json", "updatedAt": "2026-10-01", "articles": [ { "slug": "llm-sycophancy-decision-review", "title": "AIの同意を審査の証拠から外す", "summary": "LLMは利用者の立場や押し返しに合わせて答えを変えることがあり、満足度ではそれを見抜けません。投資・事業案件の審査では、AIの同意を独立した検証に数えず、反論は人が根拠から検証し直す規則と、導入時とモデル変更時に根拠に応じて正しく更新するかを測るプローブを組み合わせます。", "quickAnswer": { "what": "LLMは利用者の立場や根拠のない押し返しに合わせて答えを変えることがある。2023年の5つのAIアシスタントは「違うと思う。本当に？」への応答で最初の答えを32%（GPT-4）〜86%（Claude 1.3）の割合で変えた。[1]", "why": "満足度や高評価は迎合がないことを示さない。製品提供者の自己報告では、小規模なA/Bテストで利用者に好まれたように見えた更新が迎合を理由に撤回され、[7]対人相談では迎合的なモデルほど信頼され選好された。[3]", "action": "本稿の提案（実案件で未検証）として、稟議でAIの同意を審査の証拠に数えず、反論は人が根拠から導き直した一覧としてのみ扱い、導入時とモデル変更時に迎合プローブと停止条件を置く。" }, "updatedAt": "2026-09-26", "url": "https://catalysphere.co.jp/articles/llm-sycophancy-decision-review/", "machineReadableUrl": "https://catalysphere.co.jp/articles/llm-sycophancy-decision-review/index.json" }, { "slug": "ai-agent-audit-log-minimization", "title": "監査ログの量ではエージェント操作を再現できない", "summary": "AIエージェントの操作証拠は、全文保存ではなく、承認・実行・状態変更を結ぶ一連の記録から設計します。争点となる内容だけを保護して必要時に保存し、操作をあとからたどれることと、集めすぎないことを別々に試験します。", "quickAnswer": { "what": "先に、承認、状態変更、送信内容のどれをあとから確かめたいのかを決める。目的が違えば、必要な証拠と正式な記録も変わる。", "why": "通常時は決まった項目で残す記録を結び、内容自体が争点となる場合だけ、範囲・権限・期限を決めて原文を保護して保存する。", "action": "本番受入では、既知事例を再現できる証拠の確認と、目的・アクセス・保持・例外と削除処理の実行を検証する集めすぎを防ぐ確認を別々に通す。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/ai-agent-audit-log-minimization/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-agent-audit-log-minimization/index.json" }, { "slug": "ai-transparency-disclosure-design", "title": "AI透明性は一つの表示では終わらない", "summary": "EU AI Act Article 50を提供者／利用者と出力の種類で分け、人向け表示、機械が読み取れる印、例外、版の証拠を一つの表示設計記録へ落とす方法を整理します。", "quickAnswer": { "what": "Article 50は、役割とシステム・出力の種類ごとに別の透明性義務を置いており、一つの汎用バッジでは代替できません。[1]", "why": "人向け表示の明瞭さ・時機・アクセシビリティと、機械可読マーキング・検出可能性は、目的も実装面も異なります。[1] [3]", "action": "Catalysphereは、該当条項、配置、例外根拠、検査結果、版、責任者を残す表示設計の記録を公開前の受入確認に使うことを提案します。" }, "updatedAt": "2026-09-26", "url": "https://catalysphere.co.jp/articles/ai-transparency-disclosure-design/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-transparency-disclosure-design/index.json" }, { "slug": "ai-agent-delegated-authorization", "title": "人のログイン流用ではエージェントの権限を統制できない", "summary": "人のログイン状態を流用するのではなく、権限を委ねる人とAIエージェントを分け、対象・操作・相手先・期限を束ねた委任を実行時に検証する受入設計を示します。", "quickAnswer": { "what": "人のログイン状態や、誰が使っても通る広範な資格情報をそのまま渡すと、AIエージェントだけの行為の帰属、権限の絞り込み、失効を人と切り離して扱えません。[1][4]", "why": "認証に成功しても、それとは別に、権限を委ねた人、AIの実行主体、対象、操作、利用先、条件、期限をまとめて実行時に確認します。[2][3][5]", "action": "本番投入前に、拒否・期限切れ・条件変更・古い要求の再利用・失効を試し、AIエージェントだけを停止できない設計は自動実行範囲を縮小します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/ai-agent-delegated-authorization/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-agent-delegated-authorization/index.json" }, { "slug": "rpa-redesign-operational-handoff", "title": "RPAを見直す――AI時代の実行方式と運用移管", "summary": "業務を見直した後に残る処理を、基幹機能、API、RPA、AI、人へどう割り当て、作成者不在でも運用できると何で判定するかを整理します。", "quickAnswer": { "what": "RPAはAIの古い代替ではなく、規則と完了条件を明示できる画面操作を担う選択肢の一つです。", "why": "基幹機能、API、RPA、AI、人は排他的な五択ではなく、正本、接続、操作、判断、承認という異なる役割を組み合わせます。", "action": "工程ごとに「実行方式・移管受入票」を作り、作成者不在の演習で監視、停止、手動継続、支援要請、業務回復を確認し、未達なら共同運用、範囲縮小、移管延期へ戻します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/rpa-redesign-operational-handoff/", "machineReadableUrl": "https://catalysphere.co.jp/articles/rpa-redesign-operational-handoff/index.json" }, { "slug": "ai-use-case-portfolio-prioritization", "title": "AIユースケース選定は、順位表より検証資源の再配分で決まる", "summary": "期待効果の大きさだけで順位を付けず、検証可能性、失敗影響、可逆性、学習価値を使ってAI候補へ探索・検証資源を配分します。", "quickAnswer": { "what": "AIユースケースは、期待価値の順位ではなく、次の判断を改善する検証ポートフォリオとして選びます。", "why": "便益、失敗影響、検証可能性、可逆性、共通基盤が異なり、粗い総合点では重要な不確実性が隠れるためです。", "action": "候補ごとに最小の証拠段階と撤回条件を置き、検証後に拡大・保留・停止へ予算を再配分します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/ai-use-case-portfolio-prioritization/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-use-case-portfolio-prioritization/index.json" }, { "slug": "psychological-safety-ai-teams", "title": "AIの誤りを、安心して言えるチームを作る", "summary": "心理的安全性の一般研究をAI固有の因果証拠と誤認せず、異論、エラー報告、停止提案、報復検査をAI導入の実行手順へ移します。", "quickAnswer": { "what": "心理的安全性は学習行動や発言と関連しますが、AI導入での因果効果は直接証明されていません。", "why": "匿名窓口だけでなく、日常の異論へ管理者がどう応答したかが発言可能性を作ります。", "action": "誤り報告、利用拒否、停止提案の応答・是正・報復を測り、発言件数の多寡だけで判断しません。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/psychological-safety-ai-teams/", "machineReadableUrl": "https://catalysphere.co.jp/articles/psychological-safety-ai-teams/index.json" }, { "slug": "warning-fatigue-ai-controls", "title": "警告を増やすほど、安全になるとは限らない", "summary": "反復警告への慣れ、偽警報、関連性の低い通知による無視を踏まえ、リスク別の警告予算、表示変化、強制停止を設計します。", "quickAnswer": { "what": "同じ警告の反復は注意と反応を低下させ、追加するほど安全になるとは限りません。", "why": "頻度が高く自分に関係しない警告や偽警報は、無視、遅延、オプトアウトを生み得ます。", "action": "警告をリスク別に抑制、集約、変化、強制停止へ配分し、適切な回避行動を測ります。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/warning-fatigue-ai-controls/", "machineReadableUrl": "https://catalysphere.co.jp/articles/warning-fatigue-ai-controls/index.json" }, { "slug": "algorithmic-procedural-justice", "title": "公平なAI判断には、結果以外の手続がある", "summary": "説明を表示するだけで公正とせず、本人が理解し、事情を述べ、データを訂正し、人の再審査と救済へ進める手続を設計します。", "quickAnswer": { "what": "説明を追加するだけで、すべての状況でアルゴリズム判断が公正に感じられるわけではありません。", "why": "事情を述べる機会と結果への制御は、透明性とは別の手続的価値を持ちます。", "action": "通知、理解、発言、訂正、再審査、救済完了を測り、異議件数の少なさを成功としません。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/algorithmic-procedural-justice/", "machineReadableUrl": "https://catalysphere.co.jp/articles/algorithmic-procedural-justice/index.json" }, { "slug": "multilingual-llm-equity", "title": "多言語AIの平均点は、言語間の不公平を隠す", "summary": "翻訳ベンチマークの総合点だけで展開せず、文化依存項目、母語話者評価、言語別の最悪性能、救済経路から提供範囲を決めます。", "quickAnswer": { "what": "英語からの翻訳評価だけでは、文化に依存する問いと低資源言語の失敗を見落とし得ます。", "why": "モデル全体の性能向上が、言語間の最悪差を自動的に縮めるとは限りません。", "action": "言語別の正答、棄権、重大失敗、人との評価一致を測り、下限未達の提供を制限します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/multilingual-llm-equity/", "machineReadableUrl": "https://catalysphere.co.jp/articles/multilingual-llm-equity/index.json" }, { "slug": "llm-as-judge-bias", "title": "LLMを審査員にするとき、誰が審査員を監査するのか", "summary": "LLM評価者の人との一致率だけを信じず、回答順序、冗長性、自己選好、難例を反転させる監査から、人評価へ戻す境界を作ります。", "quickAnswer": { "what": "LLM評価者は平均では人と一致しても、回答の順序や長さなど内容以外の特徴で判定が変わり得ます。", "why": "簡単な比較だけでなく、正解が既知で誤りが微妙な難例を使って識別力を測る必要があります。", "action": "順序反転、匿名化、複数評価者、不一致時の人再審査を評価パイプラインへ組み込みます。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/llm-as-judge-bias/", "machineReadableUrl": "https://catalysphere.co.jp/articles/llm-as-judge-bias/index.json" }, { "slug": "algorithmic-management-worker-agency", "title": "アルゴリズム管理は、仕事の裁量を奪うのか", "summary": "配分、監視、評価、報酬を機能別に分け、効率だけでなく自律性、接続圧力、不安、異議申立てを下限に置く仕事設計を整理します。", "quickAnswer": { "what": "アルゴリズム管理は一律に有害でも有益でもなく、役割明確化という資源と、裁量低下・監視・不安という要求を同時に生み得ます。", "why": "既存証拠は調査・観察・限定事例が多く、同じ技術でも管理機能、報酬、職場参加、人による再審査で結果が変わるためです。", "action": "配分・監視・評価・制裁を分け、業績、自律性、健康、異議実効性へ別々の下限を置き、労働者参加と裁量域を実装します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/algorithmic-management-worker-agency/", "machineReadableUrl": "https://catalysphere.co.jp/articles/algorithmic-management-worker-agency/index.json" }, { "slug": "chain-of-thought-auditability", "title": "AIの思考過程は、監査証跡ではなく調査仮説である", "summary": "Chain-of-Thoughtの流暢さを内部判断の再現とみなさず、回答精度、因果的な忠実性、隠れた手掛かり、実行ログを分けた監査設計を示します。", "quickAnswer": { "what": "表示されたChain-of-Thoughtは調査の手掛かりにはなりますが、モデル内部の判断経路を忠実に再現する監査証跡とは限りません。", "why": "結論を変えた選択肢順序や暗黙の手掛かりを説明文が省き、もっともらしい事後合理化を生成する実験証拠があるためです。", "action": "CoTは仮説生成へ限定し、入力、取得根拠、ツール応答、状態差分、独立検算を正本として、忠実性を別試験します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/chain-of-thought-auditability/", "machineReadableUrl": "https://catalysphere.co.jp/articles/chain-of-thought-auditability/index.json" }, { "slug": "ai-generated-text-detection-evidence", "title": "AI文章検出器は、不利益判断の単独証拠にできない", "summary": "AI文章検出器と生成時透かしを分け、言い換え耐性、未知モデル、集団別偽陽性、本人の版履歴と異議申立てまで含む証拠手順を設計します。", "quickAnswer": { "what": "AI文章検出のスコアは生成由来を確定する証明ではなく、高影響な処分では調査開始の一材料に限定すべきです。", "why": "事後検出は言い換え・未知モデル・言語集団で崩れ、生成時透かしも提供者実装・鍵・文章長・改変に依存するためです。", "action": "用途別の偽陽性の上限を置き、版履歴、引用、作業ログ、本人説明を併合し、独立再審査と訂正可能な異議経路を実装します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/ai-generated-text-detection-evidence/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-generated-text-detection-evidence/index.json" }, { "slug": "ai-conversational-persuasion-autonomy", "title": "会話AIは、人の選択をどこまで変えてよいのか", "summary": "個別化された会話AIは、誤信念の訂正にも、本人が気づかない商業誘導にも使えます。正当な行動支援と操作を分け、自律性を測る運用条件を整理します。", "quickAnswer": { "what": "会話AIの影響は、望ましい結果が出たかではなく、誰の目的で、何を知らせ、どの選択肢を残して変化を促したかで判定します。", "why": "個別化と対話は態度や選択を動かし得ますが、短期の納得、持続的な態度、実際の行動は同じ成果ではありません。[2][4][6]", "action": "目的・商業意図・利用データを明示し、拒否・比較・撤回を実質的に可能にしたうえで、態度と行動と選択後の後悔を分けて測ります。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/ai-conversational-persuasion-autonomy/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-conversational-persuasion-autonomy/index.json" }, { "slug": "ai-privacy-data-minimization", "title": "AI時代のデータ最小化：集めない・残さない・重ねない", "summary": "AIのプライバシー対策を、収集後の匿名化だけに任せません。必要性、保持、重複、学習、ログ、アクセスをライフサイクル全体で減らします。", "quickAnswer": { "what": "データ最小化とは容量削減ではなく、目的に必要な個人データだけを、必要な精度と期間で扱う原則です。", "why": "大規模モデルは学習データを再生し得て、同じ系列の重複が記憶と抽出の危険を大きく増幅するためです。", "action": "収集前の必要性審査、重複除去、保持期限、ログ制御、抽出テスト、削除経路を一つの台帳で運用します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/ai-privacy-data-minimization/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-privacy-data-minimization/index.json" }, { "slug": "data-quality-decision-errors", "title": "データ品質の欠陥は、どこで意思決定の誤りに変わるのか", "summary": "データ品質を正確さだけで捉えず、意味、代理指標、現場の修正経路まで追うことで、数字が判断ミスへ変わる場所を特定します。", "quickAnswer": { "what": "データ品質とは、正確さだけでなく、判断に必要な文脈・表現・アクセスまで含む適合性です。", "why": "不適切な代理指標や上流の妥協は、モデルが高精度でも特定の人や状況へ誤りを集中させるためです。", "action": "重要判断から逆算し、定義、代理指標、欠損、現場の修正、結果までを一つの品質台帳で管理します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/data-quality-decision-errors/", "machineReadableUrl": "https://catalysphere.co.jp/articles/data-quality-decision-errors/index.json" }, { "slug": "model-update-change-control", "title": "モデル更新では、変更前に再証明する範囲を決める", "summary": "モデル・データ・検索基盤・ガードレールの更新を変更範囲、比較証拠、承認、監視、ロールバックまでつないで管理する方法を整理します。", "quickAnswer": { "what": "AI更新はコード差分が小さくても判断境界を変え得るため、予定した変更範囲、検証方法、影響評価をリリース前に固定します。[1]", "why": "NIST AI RMFは任意の指針として継続監視を推奨し、EU AI Actは対象となる高リスクAIの重大変更と市場投入後監視を別の管理点として扱います。[2] [3]", "action": "旧版を基準として残し、代表・境界・悪用ケースの比較、独立承認、段階展開、停止閾値、復旧手順を一つの変更票で実行します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/model-update-change-control/", "machineReadableUrl": "https://catalysphere.co.jp/articles/model-update-change-control/index.json" }, { "slug": "ai-incident-response", "title": "AI事故は、システム復旧だけでは終わらない", "summary": "モデル停止だけで終わらせず、被害、因果関係、版・データ・判断の証拠、対外報告、再発防止を一続きにする対応設計を整理します。", "quickAnswer": { "what": "AI事故では可用性の復旧だけでなく、影響を受けた人・権利・環境、モデルと事故の関係、入力・出力・人の判断の証拠を同時に扱います。[1] [2]", "why": "OECDの共通報告枠組みは29基準を提示し、EU AI Actは対象となる重大事故に原則15日以内などの期限を設けています。[2] [3]", "action": "平時に重大度、停止権限、証拠保全、通知先、代替業務、再開条件を決め、机上演習と事後レビューで更新します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/ai-incident-response/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-incident-response/index.json" }, { "slug": "algorithmic-bias-fairness-audit", "title": "AIの公平性は、平均精度と一つの点数では監査できない", "summary": "公平性を一つのスコアへ縮約せず、利用文脈、被害、誤りの種類、交差する集団、運用後の変化を監査する方法を整理します。", "quickAnswer": { "what": "公平性監査の単位はモデル平均ではなく、誰が、どの判断で、どの種類の誤りにより、どの不利益を受けるかという意思決定経路です。[1]", "why": "顔分析の一次評価では、製品・タスク・集団による誤差差が大きく、平均精度だけでは暗い肌の女性で最大34.7%だった誤分類を隠します。[2] [3]", "action": "導入前に集団別の偽陽性・偽陰性と交差属性を測り、被害の重大性に応じた停止基準、異議申立て、運用後の再測定を決めます。" }, "updatedAt": "2026-07-24", "url": "https://catalysphere.co.jp/articles/algorithmic-bias-fairness-audit/", "machineReadableUrl": "https://catalysphere.co.jp/articles/algorithmic-bias-fairness-audit/index.json" }, { "slug": "generative-ai-copyright-provenance", "title": "生成AIの著作権管理は、最終出力ではなく制作工程から始まる", "summary": "学習・生成・公開を別々に捉え、権利確認と来歴記録を一つの運用証跡にする方法を、日本・EU・C2PAの一次資料から整理します。", "quickAnswer": { "what": "生成AIの著作権リスクは、生成物だけでなく学習データ、指示・編集、公開方法を通じた一連の工程として管理します。[1] [2]", "why": "法的判断と技術的来歴は役割が異なり、C2PAは来歴情報の改変検知を支えても、権利処理の適法性そのものは保証しません。[3]", "action": "案件ごとに権利根拠、利用規約、人の創作的寄与、生成履歴、公開時の表示を同じ台帳へ残し、疑義があれば公開を止めて専門家へ確認します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/generative-ai-copyright-provenance/", "machineReadableUrl": "https://catalysphere.co.jp/articles/generative-ai-copyright-provenance/index.json" }, { "slug": "ai-reliance-organizational-risk", "title": "AIに任せすぎる組織で、何が失われるのか", "summary": "正しい支援は助けになり、誤った支援は誤りを増幅する。自動化バイアスと批判的思考の研究から、疑い、止め、戻れる組織を考えます。", "quickAnswer": { "what": "AI依存では誤採用に加え、検証・学習・異議経路が弱まる可能性を監視します。長期の能力喪失は本稿の研究だけでは判定できません。", "why": "流暢な提案は正確さと無関係でも信頼を誘い、検証努力を下げる場面が観測されているためです。", "action": "失敗影響と可逆性で確認強度を変え、記録、二者確認、停止権限、代替手順を業務に埋め込みます。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/ai-reliance-organizational-risk/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-reliance-organizational-risk/index.json" } ] }