監査ログの量ではエージェント操作を再現できない
AIエージェントの操作証拠は、全文保存ではなく、承認・実行・状態変更を結ぶ一連の記録から設計します。争点となる内容だけを保護して必要時に保存し、操作をあとからたどれることと、集めすぎないことを別々に試験します。
記事を読むRESEARCH TOPIC / AI-SYSTEMS
AIシステム
モデル、検索、エージェントと入出力パイプラインの設計を扱う。
GROUNDING MAP
この領域で扱う問いと根拠
16本の研究ノートを、共通する意思決定領域からたどれます。各記事は結論、出典、観測結果、限界を明示しています。
関連する研究ノート
16 ARTICLES
人のログイン流用ではエージェントの権限を統制できない
人のログイン状態を流用するのではなく、権限を委ねる人とAIエージェントを分け、対象・操作・相手先・期限を束ねた委任を実行時に検証する受入設計を示します。
記事を読む
聞き取りでは約90%減。余力は増えたのか
匿名企業で、毎月のインターネット調査をAIを組み込んだRPAで自動化した。関係者への聞き取りでは作業時間が約90%減った一方、数か月後に新しい仕事へ使われたと説明できたのは、減ったと推定された時間の10〜20%だった。実際に空いた時間と、その使い道をどう測るかを考えます。
記事を読む
RPAを見直す――AI時代の実行方式と運用移管
業務を見直した後に残る処理を、基幹機能、API、RPA、AI、人へどう割り当て、作成者不在でも運用できると何で判定するかを整理します。
記事を読む
AI導入後の業務は、どこまで再設計すべきか
一部工程の時間短縮を全体成果と見なさず、ボトルネック、例外、専門家への引継ぎ、余力の再配分まで含めて業務フローを組み替えます。
記事を読む
RAGの知識ベースは、検索される攻撃面になる
悪意文書が検索上位へ入り回答を誘導するリスクを、書込み来歴、索引監視、矛盾検出、生成後検証、隔離と再索引に分けて防ぎます。
記事を読む
AIを何人集めても、独立した知恵にはならない
複数LLMの討議を票数で信頼せず、初期回答の多様性、同調、問題逸脱、正答保持、単純投票との差から上乗せ価値を判定します。
記事を読む
AIが書いたコードは、速さと安全を分けて審査する
生成コードの生産性を安全性へ読み替えず、脆弱性、利用者の安全認識、静的・動的検査、独立レビューを高影響コードの採用門にします。
記事を読む
合成データの再帰学習では、平均より先に分布の尾が失われる
合成データの再利用を一律に禁じるのではなく、実データの置換・蓄積・選別を分け、希少事例と多様性を守る学習データ運用を設計します。
記事を読む
コードを変えなくても、本番モデルは古くなる
入力分布の変化だけを監視しても、実害は分かりません。データ、予測、意思決定、遅れて届く結果を結ぶ多層の監視と対応手順を設計します。
記事を読む
プロンプトインジェクション対策は、命令検出より権限境界から始める
不審な文章をフィルターするだけでは、外部データを読みツールを動かすAIを守れません。攻撃評価、構造化入力、公式分類から多層防御を整理します。
記事を読む
PDFへ答えられても、文書を理解したとは限らない
OCRで文字が取れることと、レイアウト、グラフ、表と本文を正しく結び付けることは別です。文書質問応答の研究から、業務検証の単位を整理します。
記事を読む
最強モデルの全件利用は、最良の投資とは限らない
全依頼を高性能モデルへ送る設計も、安価なモデルへ固定する設計も最適とは限りません。カスケードとルーター研究から、品質制約付きの振り分けを考えます。
記事を読む
AIエージェントの失敗は、長い工程の状態として残る
一回の回答精度が高くても、計画、検索、ツール実行、状態更新が続く業務では誤りが累積します。実環境ベンチマークから、信頼できる自動化の境界を考えます。
記事を読む
RAGは、生成AIの事実性をどこまで改善できるのか
検索で根拠を渡せば誤りが消える、とは限りません。検索漏れ、根拠との不一致、長い文脈での見落としを分け、RAGを業務で検証する方法を整理します。
記事を読む
AIコーディングは、いつ開発を速め、いつ遅くするのか
AIコーディングの平均効果だけでは投資判断できない。実験室、企業、成熟OSSの研究を比較し、速度を左右する仕事・人・測定の条件を整理します。
記事を読む