{ "schemaVersion": "1.0", "language": "ja", "id": "ai-systems", "name": "AIシステム", "description": "モデル、検索、エージェントと入出力パイプラインの設計を扱う。", "alternateNames": [ "AI Systems", "RAG", "AIエージェント", "エージェント", "業務自動化", "ツール利用", "モデルルーティング", "小型モデル", "システム設計", "マルチモーダルAI", "文書理解", "表・グラフ", "OCR", "機械学習", "ソフトウェア開発" ], "canonicalUrl": "https://catalysphere.co.jp/topics/ai-systems/", "machineReadableUrl": "https://catalysphere.co.jp/topics/ai-systems/index.json", "updatedAt": "2026-10-01", "articles": [ { "slug": "ai-agent-audit-log-minimization", "title": "監査ログの量ではエージェント操作を再現できない", "summary": "AIエージェントの操作証拠は、全文保存ではなく、承認・実行・状態変更を結ぶ一連の記録から設計します。争点となる内容だけを保護して必要時に保存し、操作をあとからたどれることと、集めすぎないことを別々に試験します。", "quickAnswer": { "what": "先に、承認、状態変更、送信内容のどれをあとから確かめたいのかを決める。目的が違えば、必要な証拠と正式な記録も変わる。", "why": "通常時は決まった項目で残す記録を結び、内容自体が争点となる場合だけ、範囲・権限・期限を決めて原文を保護して保存する。", "action": "本番受入では、既知事例を再現できる証拠の確認と、目的・アクセス・保持・例外と削除処理の実行を検証する集めすぎを防ぐ確認を別々に通す。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/ai-agent-audit-log-minimization/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-agent-audit-log-minimization/index.json" }, { "slug": "ai-agent-delegated-authorization", "title": "人のログイン流用ではエージェントの権限を統制できない", "summary": "人のログイン状態を流用するのではなく、権限を委ねる人とAIエージェントを分け、対象・操作・相手先・期限を束ねた委任を実行時に検証する受入設計を示します。", "quickAnswer": { "what": "人のログイン状態や、誰が使っても通る広範な資格情報をそのまま渡すと、AIエージェントだけの行為の帰属、権限の絞り込み、失効を人と切り離して扱えません。[1][4]", "why": "認証に成功しても、それとは別に、権限を委ねた人、AIの実行主体、対象、操作、利用先、条件、期限をまとめて実行時に確認します。[2][3][5]", "action": "本番投入前に、拒否・期限切れ・条件変更・古い要求の再利用・失効を試し、AIエージェントだけを停止できない設計は自動実行範囲を縮小します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/ai-agent-delegated-authorization/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-agent-delegated-authorization/index.json" }, { "slug": "ai-automation-capacity-conversion", "title": "聞き取りでは約90%減。余力は増えたのか", "summary": "匿名企業で、毎月のインターネット調査をAIを組み込んだRPAで自動化した。関係者への聞き取りでは作業時間が約90%減った一方、数か月後に新しい仕事へ使われたと説明できたのは、減ったと推定された時間の10〜20%だった。実際に空いた時間と、その使い道をどう測るかを考えます。", "quickAnswer": { "what": "匿名企業の一業務では、聞き取りで作業時間が約90%減ったと推定された。ただし、この数値だけでは横展開や財務効果を認められない。", "why": "二つの割合は基準にしている時間が違う。ログ、案件数、品質、確認・修正・保守時間も未確認で、この数値だけでは利益や因果関係を判断できない。", "action": "現時点で承認できるのは測定段階まで。まず工程時間と品質、確認・修正・保守を確かめ、その後に空いた時間の使い道を追う。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/ai-automation-capacity-conversion/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-automation-capacity-conversion/index.json" }, { "slug": "rpa-redesign-operational-handoff", "title": "RPAを見直す――AI時代の実行方式と運用移管", "summary": "業務を見直した後に残る処理を、基幹機能、API、RPA、AI、人へどう割り当て、作成者不在でも運用できると何で判定するかを整理します。", "quickAnswer": { "what": "RPAはAIの古い代替ではなく、規則と完了条件を明示できる画面操作を担う選択肢の一つです。", "why": "基幹機能、API、RPA、AI、人は排他的な五択ではなく、正本、接続、操作、判断、承認という異なる役割を組み合わせます。", "action": "工程ごとに「実行方式・移管受入票」を作り、作成者不在の演習で監視、停止、手動継続、支援要請、業務回復を確認し、未達なら共同運用、範囲縮小、移管延期へ戻します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/rpa-redesign-operational-handoff/", "machineReadableUrl": "https://catalysphere.co.jp/articles/rpa-redesign-operational-handoff/index.json" }, { "slug": "ai-workflow-redesign", "title": "AI導入後の業務は、どこまで再設計すべきか", "summary": "一部工程の時間短縮を全体成果と見なさず、ボトルネック、例外、専門家への引継ぎ、余力の再配分まで含めて業務フローを組み替えます。", "quickAnswer": { "what": "AI導入後は職務を丸ごと置き換えず、生成・評価・例外判断・承認の工程ごとに役割を再設計します。", "why": "個人の工程が速くなっても、後工程、確認負荷、需要、例外処理が変わらなければ全体成果は増えないためです。", "action": "端から端のリードタイム、確定品質、再作業、例外滞留、専門家負荷を測り、詰まりが移った工程から直します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/ai-workflow-redesign/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-workflow-redesign/index.json" }, { "slug": "rag-poisoning-defense", "title": "RAGの知識ベースは、検索される攻撃面になる", "summary": "悪意文書が検索上位へ入り回答を誘導するリスクを、書込み来歴、索引監視、矛盾検出、生成後検証、隔離と再索引に分けて防ぎます。", "quickAnswer": { "what": "外部根拠を使うRAGは、少数の悪意文書が特定質問で優先検索される攻撃面も作ります。", "why": "モデルへの安全指示だけでなく、書込み権限、来歴、検索結果、回答検証を分けて統制します。", "action": "汚染発見後は文書を消すだけでなく、索引を再構築し、影響回答を追跡して訂正します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/rag-poisoning-defense/", "machineReadableUrl": "https://catalysphere.co.jp/articles/rag-poisoning-defense/index.json" }, { "slug": "multi-agent-debate-reliability", "title": "AIを何人集めても、独立した知恵にはならない", "summary": "複数LLMの討議を票数で信頼せず、初期回答の多様性、同調、問題逸脱、正答保持、単純投票との差から上乗せ価値を判定します。", "quickAnswer": { "what": "同じモデル由来の複数回答は誤りが相関し得るため、エージェント数を独立な証拠数にできません。", "why": "議論は一部課題で改善しても、同調や問題逸脱により当初の正答を失うことがあります。", "action": "単一推論、自己一貫性、多数決と同じ予算で比べ、明確な上乗せがある条件だけ採用します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/multi-agent-debate-reliability/", "machineReadableUrl": "https://catalysphere.co.jp/articles/multi-agent-debate-reliability/index.json" }, { "slug": "ai-code-security-review", "title": "AIが書いたコードは、速さと安全を分けて審査する", "summary": "生成コードの生産性を安全性へ読み替えず、脆弱性、利用者の安全認識、静的・動的検査、独立レビューを高影響コードの採用門にします。", "quickAnswer": { "what": "コード生成が速くても、脆弱性が少ないとは限らず、課題や提案選択で結果は変わります。", "why": "利用者が安全だと感じることと、実際の脆弱性を検査で減らせたことは別の指標です。", "action": "認証、暗号、入力処理などは、生成元の記録、専用試験、独立レビューを採用条件にします。" }, "updatedAt": "2026-07-24", "url": "https://catalysphere.co.jp/articles/ai-code-security-review/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-code-security-review/index.json" }, { "slug": "synthetic-training-data-model-collapse", "title": "合成データの再帰学習では、平均より先に分布の尾が失われる", "summary": "合成データの再利用を一律に禁じるのではなく、実データの置換・蓄積・選別を分け、希少事例と多様性を守る学習データ運用を設計します。", "quickAnswer": { "what": "合成データは自動的にモデル崩壊を起こしませんが、実データを置き換える再帰学習では分布の尾と多様性が失われ得ます。", "why": "劣化は素材名より、実データの保持、世代間の再利用、標本選択、有限データの誤差がどう重なるかで変わるためです。", "action": "標本の由来と世代を残し、平均性能と別に少数群・裾・多様性を試験します。悪化した合成源や区分を隔離し、確認済みの基準構成へ戻してから再試験します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/synthetic-training-data-model-collapse/", "machineReadableUrl": "https://catalysphere.co.jp/articles/synthetic-training-data-model-collapse/index.json" }, { "slug": "model-data-drift-monitoring", "title": "コードを変えなくても、本番モデルは古くなる", "summary": "入力分布の変化だけを監視しても、実害は分かりません。データ、予測、意思決定、遅れて届く結果を結ぶ多層の監視と対応手順を設計します。", "quickAnswer": { "what": "ドリフト監視は分布差の検知ではなく、変化がモデル性能と業務判断へ害を与えたかを追う仕組みです。", "why": "害のない入力変化も、入力が同じまま関係だけが変わる劣化もあり、単一指標では区別できないためです。", "action": "配管、入力、予測、行動、結果を層別監視し、影響と可逆性に応じた調査・縮退・再学習を決めます。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/model-data-drift-monitoring/", "machineReadableUrl": "https://catalysphere.co.jp/articles/model-data-drift-monitoring/index.json" }, { "slug": "prompt-injection-enterprise-controls", "title": "プロンプトインジェクション対策は、命令検出より権限境界から始める", "summary": "不審な文章をフィルターするだけでは、外部データを読みツールを動かすAIを守れません。攻撃評価、構造化入力、公式分類から多層防御を整理します。", "quickAnswer": { "what": "プロンプトインジェクションは文章上の注意書きだけでは解消せず、権限とデータ流を含むシステム境界で防ぐ必要があります。", "why": "モデルは信頼する命令と外部データ内の命令を完全には分離できず、ツール権限があると誤追従が実操作へ変わるためです。", "action": "命令とデータの分離、最小権限、許可済み操作、実行前確認、適応的な攻撃試験、監査ログを重ねます。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/prompt-injection-enterprise-controls/", "machineReadableUrl": "https://catalysphere.co.jp/articles/prompt-injection-enterprise-controls/index.json" }, { "slug": "multimodal-document-accuracy", "title": "PDFへ答えられても、文書を理解したとは限らない", "summary": "OCRで文字が取れることと、レイアウト、グラフ、表と本文を正しく結び付けることは別です。文書質問応答の研究から、業務検証の単位を整理します。", "quickAnswer": { "what": "マルチモーダルAIは文書検索と下書きを助けますが、数値や根拠を無確認で確定する用途には必ず工程別の個別検証が必要です。", "why": "文字認識に加え、配置、凡例、単位、表と本文の対応、算術、複数箇所の統合という異なる能力が必要だからです。", "action": "文書タイプと質問タイプで評価を分け、回答ごとにページ、領域、元の値、計算過程を確認できる設計にします。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/multimodal-document-accuracy/", "machineReadableUrl": "https://catalysphere.co.jp/articles/multimodal-document-accuracy/index.json" }, { "slug": "small-model-routing-economics", "title": "最強モデルの全件利用は、最良の投資とは限らない", "summary": "全依頼を高性能モデルへ送る設計も、安価なモデルへ固定する設計も最適とは限りません。カスケードとルーター研究から、品質制約付きの振り分けを考えます。", "quickAnswer": { "what": "モデルの大きさを全社で一つに決めるより、依頼ごとに安価な経路と高性能な経路を選ぶ方が合理的な場合があります。", "why": "依頼の難しさとモデル間の得意不得意が不均一で、品質を維持したまま高価な呼び出しを減らせる余地があるためです。", "action": "自社入力で品質下限、誤振り分け損失、再試行、遅延を測り、低確信・高影響・範囲外・検証不能な案件を安全側へ昇格するルールを検証します。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/small-model-routing-economics/", "machineReadableUrl": "https://catalysphere.co.jp/articles/small-model-routing-economics/index.json" }, { "slug": "ai-agent-workflow-reliability", "title": "AIエージェントの失敗は、長い工程の状態として残る", "summary": "一回の回答精度が高くても、計画、検索、ツール実行、状態更新が続く業務では誤りが累積します。実環境ベンチマークから、信頼できる自動化の境界を考えます。", "quickAnswer": { "what": "AIエージェントの信頼性は会話の印象ではなく、最終状態が正しく、同じ依頼で再現するかで判定します。", "why": "長い工程では計画、観測、ツール選択、引数、業務規則、状態確認の小さな誤りが次の操作へ引き継がれるためです。", "action": "可逆な下位工程から始め、状態検証、権限上限、人の承認、繰り返し試験、即時停止をワークフローへ組み込みます。" }, "updatedAt": "2026-10-01", "url": "https://catalysphere.co.jp/articles/ai-agent-workflow-reliability/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-agent-workflow-reliability/index.json" }, { "slug": "rag-grounding-reliability", "title": "RAGは、生成AIの事実性をどこまで改善できるのか", "summary": "検索で根拠を渡せば誤りが消える、とは限りません。検索漏れ、根拠との不一致、長い文脈での見落としを分け、RAGを業務で検証する方法を整理します。", "quickAnswer": { "what": "RAGは外部知識への導線を作れますが、回答が取得根拠に忠実であることまでは現時点でも十分には保証しません。", "why": "検索の再現率、取得文書の質、根拠の配置、生成時の忠実性という別々の失敗が直列につながるためです。", "action": "検索・根拠利用・最終回答を別々に採点し、答えられない質問を安全に保留できる基準を先に決めます。" }, "updatedAt": "2026-07-24", "url": "https://catalysphere.co.jp/articles/rag-grounding-reliability/", "machineReadableUrl": "https://catalysphere.co.jp/articles/rag-grounding-reliability/index.json" }, { "slug": "ai-coding-productivity-context", "title": "AIコーディングは、いつ開発を速め、いつ遅くするのか", "summary": "AIコーディングの平均効果だけでは投資判断できない。実験室、企業、成熟OSSの研究を比較し、速度を左右する仕事・人・測定の条件を整理します。", "quickAnswer": { "what": "AIコーディングは、仕様が明確で検証しやすい仕事を速めても、文脈の深い保守を遅らせる場合があります。", "why": "出力の生成時間だけでなく、説明、待機、検証、レビュー、修正の負担が仕事ごとに異なるためです。", "action": "業務を検証容易性と文脈量で分け、着手からマージ後の再作業までをAIあり・なしで比べます。" }, "updatedAt": "2026-07-24", "url": "https://catalysphere.co.jp/articles/ai-coding-productivity-context/", "machineReadableUrl": "https://catalysphere.co.jp/articles/ai-coding-productivity-context/index.json" } ] }