人のログイン流用ではエージェントの権限を統制できない
人のログイン状態を流用するのではなく、権限を委ねる人とAIエージェントを分け、対象・操作・相手先・期限を束ねた委任を実行時に検証する受入設計を示します。
記事を読むRESEARCH TOPIC / SAFETY-RESILIENCE
安全性・レジリエンス
攻撃、事故、復旧と事業継続を一つの対応循環として扱う。
GROUNDING MAP
この領域で扱う問いと根拠
9本の研究ノートを、共通する意思決定領域からたどれます。各記事は結論、出典、観測結果、限界を明示しています。
関連する研究ノート
09 ARTICLES
警告を増やすほど、安全になるとは限らない
反復警告への慣れ、偽警報、関連性の低い通知による無視を踏まえ、リスク別の警告予算、表示変化、強制停止を設計します。
記事を読む
AIへ思考を預けても、独力で戻れるか
外部記憶による負荷軽減と、内部の符号化・想起の減少を分け、AIを使える時の成果と使えない時の独力遂行を両方測ります。
記事を読む
RAGの知識ベースは、検索される攻撃面になる
悪意文書が検索上位へ入り回答を誘導するリスクを、書込み来歴、索引監視、矛盾検出、生成後検証、隔離と再索引に分けて防ぎます。
記事を読む
AIが書いたコードは、速さと安全を分けて審査する
生成コードの生産性を安全性へ読み替えず、脆弱性、利用者の安全認識、静的・動的検査、独立レビューを高影響コードの採用門にします。
記事を読む
プロンプトインジェクション対策は、命令検出より権限境界から始める
不審な文章をフィルターするだけでは、外部データを読みツールを動かすAIを守れません。攻撃評価、構造化入力、公式分類から多層防御を整理します。
記事を読む
AIベンダー選定は、契約終了後の再開能力まで試験する
精度デモだけで選ばず、データ、モデル依存、契約、移行可能性、停止・代替手段を導入前に試験するベンダー評価を整理します。
記事を読む
AI事故は、システム復旧だけでは終わらない
モデル停止だけで終わらせず、被害、因果関係、版・データ・判断の証拠、対外報告、再発防止を一続きにする対応設計を整理します。
記事を読む
AIに任せすぎる組織で、何が失われるのか
正しい支援は助けになり、誤った支援は誤りを増幅する。自動化バイアスと批判的思考の研究から、疑い、止め、戻れる組織を考えます。
記事を読む