社内でAIエージェントを動かしはじめた瞬間から、責任の所在が曖昧になります。エージェントが判断を誤ったとき、原因が指示の不足にあるのか設計の不足にあるのかを区別できなければ、毎回同じ議論に戻ります。
AIエージェントは、人が行う作業の一部を受け持つ実行主体です。指示を出す、資料を読む、結果を書く、共有先へ送るまでの一連の処理を自身で行います。だからこそ、権限の委譲、実行前の承認、監視、停止の仕組みを先に設計しておく必要があります。
本ガイドでは、エージェントのガバナンスを4つの制御点に分解し、権限委譲の段階分け、承認ルール、キルスイッチの設計、監査ログの記録内容を、そのまま運用に落とせる粒度で説明します。
AIエージェントのガバナンスとは｜人が握るべき4つの制御点
AIエージェントのガバナンスとは、エージェントの判断と行動の範囲を人が定め、状況に応じて変更や停止できる状態を保つ運用を指します。統制の対象は次の4つに整理できます。
| 制御点 | 管理する対象 | 主な手段 | 崩れたときの被害 |
|---|---|---|---|
| ①権限 | 読み書きできる情報と実行できる操作 | 操作ごとの許可リスト | 権限外の情報に到達される |
| ②承認 | 自動実行を許すか人が判断するか | 実行前の確認と承認 | 誤った操作が自動で進む |
| ③監視 | 実行状況を誰が把握しているか | 実行記録の閲覧と通知 | 異常に気づけないまま進む |
| ④停止 | 異常時に止める手段と権限 | 一時停止の手順と操作記録 | 被害が拡大し続ける |
4つの制御点は独立していません。権限を狭め、承認で抑え、監視で捉え、停止で止める、という積み上げで機能します。監視がない状態では停止の判断が遅れ、停止権限がなければ検知した瞬間にも手を打てません。
権限の委譲｜エージェントにどこまで任せるか
権限の委譲とは、エージェントに与える操作の範囲を、業務の性質に応じて段階的に決めることを指します。人が行う作業と同じ水準で代理させるのではなく、代理してよい場面を先に定義します。
| 段階 | 任せられる操作 | 承認の要否 | 実行の範囲 |
|---|---|---|---|
| 第1段階：閲覧 | 資料の検索と読み取り | 不要 | 閲覧権限のある資料のみ |
| 第2段階：下書き | 回答の作成、ファイルの作成 | 不要 | 社内の限定領域 |
| 第3段階：更新 | ファイルの上書き、社外への送信 | 必要 | 承認済みの案件単位 |
委譲の判断基準は3つです。1つ目は、操作を後から取り消せるかどうかです。2つ目は、影響が社内で閉じるか社外へ出るかです。3つ目は、誤ったときの損失が許容できる範囲かです。この3つで、第1段階と第2段階は自動でよく、第3段階は人が確認する、という線引きができます。
第3段階に入るときが設計上の分岐点です。最初から「全部自動」にすると、止める手段の検討が後回しになります。段階を分けておくこと自体が、安全上の利点になります。
実行承認｜判断を仰ぐ場面の切り分け
承認は、どこに挟むかを決めると運用が決まります。判断が分かれやすい場面から、次の4つに切り分けます。
| 判断が分かれる場面 | 承認者 | 承認の形式 | 残す記録 |
|---|---|---|---|
| 社外への送信 | 部門責任者 | 明示的な承認コメント | 承認した人と時刻 |
| 顧客への回答 | サポートの担当者 | 回答内容の個別確認 | 確認した人と最終回答 |
| 金額を伴う処理 | 経理責任者 | 申請と承認の2段階 | 申請番号と承認履歴 |
| 大量の一括処理 | 情報管理の担当 | 対象範囲の事前確認 | 対象件数と実行記録 |
設計の要点は2つあります。1つ目は、承認の粒度を揃えることです。同じ種類の処理で、担当者と責任者のどちらが判断するかが変わると、現場が混乱します。2つ目は、承認の履歴を残すことです。承認した人だけでなく、承認対象となった内容も一緒に保存します。
承認には負荷がかかります。1件ずつ人が判断すると、エージェント導入の意義が薄れます。判断が必要な場面を絞るほど、承認の負荷は下がります。上の表に挙げた4つ以外は、自動で進めてよい場面として設計するのが現実的です。
キルスイッチ｜停止条件を先に決めておく
キルスイッチとは、エージェントの動作を即座に止めるための操作を指します。異常が起きた後に「止められるか」を考えるのではなく、止められる状態を先に用意することが重要です。
| 切替の種別 | 引き金 | 停止の範囲 | 復帰の条件 |
|---|---|---|---|
| 手動停止 | 管理者が操作する | 対象のエージェント | 原因の確認と承認 |
| 異常の検知 | エラー率の上昇、外部送信の連続 | 該当する連携先 | 原因の特定と設定の修正 |
| 情報露出 | 出力に社外秘匿情報が含まれた検知 | 対象のエージェント | 該当データの範囲確認 |
キルスイッチを機能として持つだけでは意味がありません。3点をあらかじめ決めておく必要があります。止める操作ができる人、止めなかった場合の自動動作、復帰の手順です。
特に重要なのは、止める判断を承認待ちにしないことです。異常に気づいた人が、その場で止められる状態にしておく必要があります。止められない設計では、被害の停止が遅れます。
監査ログ｜何が起きたかを後から説明する
監査ログとは、エージェントが「何を見て、何を作り、何を送ったか」を後から確認できる記録を指します。問題が起きなかった場合でも、正常時の記録は次回の設計に使えます。
記録する項目は6つです。
- 実行の起点：誰が、いつ、どの指示を起動したか
- 参照した情報：どの資料を読み込んだか
- 生成した内容：どんな出力を作成したか
- 承認の記録：誰が、何を確認したか
- 外部への送信：どこへ、何を送ったか
- 設定の変更：権限や接続先がいつ変わったか
保存期間は、社内方針と適用される会計・監査の基準で決まります。実務では、実行と承認の記録は1年以上、権限や接続先の変更記録は3年以上残す例が多く、後から説明が求められる場面に対応しています。
記録をうまく使うには、閲覧する役割を分けておくことも重要です。日常的に実行状況を把握する担当と、監査の依頼に対応する担当が同じだと、記録の閲覧要求が衝突します。
ガバナンスを仕組みに落とす｜運用の実装方法
ガバナンスは規程だけでは機能しません。エージェントの動きが適合するかを、実際の設定と記録で強制する必要があります。実装の骨組みは次の4つです。
- 権限の明示：許可する操作だけを列挙し、許可されていない操作は受け付けない
- 承認の組み込み：上位の操作には、申請と承認を挟む
- 停止手順の整備：止める操作と、その後の確認手順を先に決めておく
- 記録の保存：実行と承認の履歴を、後から説明できる形で残す
AIエージェント側の技術的な対策は【2026年】AIエージェントセキュリティ完全ガイド｜企業導入のためのリスク対策とベストプラクティスが扱っています。実際の導入例と成功・失敗の傾向は【2026年】AIエージェント導入事例完全ガイド｜業種別・企業規模別の成功と失敗が確認できます。
GBase Knowledgeなら、この課題を解決できます
GBase Knowledgeは、手順書にもとづいて動作するAIエージェントを組み立てられ、エージェントが参照した資料と実行した工程を記録として残せます。権限のない資料は参照対象から外れ、出力には参照元のリンクが付くため、後から実行内容を説明できます。仕様はGBase Knowledgeのサイトで確認できます。
社外への送信や金額を伴う処理を人の判断に挟む場合は、ワークフローでつなげられます。承認フローの設計はグループウェア ワークフローとは？連携メリット・構築方法・AI活用で承認業務を効率化が参考になります。市場構造の把握はAIエージェント カオスマップ2026｜主要プレイヤーと市場構造を徹底解説が担っています。社内の規程全体の設計は企業向け生成AIガイドライン策定マニュアル｜リスク管理と活用促進の両立が骨組みを示しています。
よくある質問
Q1: エージェントにどこまで権限を与えればよいですか。
第1段階の閲覧から始めます。回答の作成まで自動的に進め、ファイルの上書きや社外への送信は承認を挟む形が現実的です。最初から全操作を許可すると、異常時の切り分けができなくなります。
Q2: キルスイッチの判断は誰がすべきですか。
気づいた人が止められるようにします。エラーの増加や情報露出の検知は自動で行い、検知した時点で対象のエージェントを止める、条件を満たしたときだけ人が判断する、という2段構えが現実的です。
Q3: 承認のフローが重くて運用が続かない場合はどう扱えばよいですか。
自動で進めてよい場面をまず増やします。判断が分かれる場面を4つに絞ったうえで、それ以外は自動実行に寄せる運用が現実的です。承認の対象を減らすより、判定基準を明文化するほうが現場は動きます。
Q4: 監査ログはどの情報を残せば十分ですか。
実行の起点、参照した情報、生成した内容、承認の記録、外部への送信、設定の変更の6つです。後から「何が起きたか」を説明できるかが判断の基準で、ログの項目を増やしすぎることは処理を重くするだけです。
Q5: ガバナンスは運用開始前に整えるべきですか。
整えておくべきですが、すべて完成してから始める必要はありません。第1段階の閲覧と第2段階の生成までで運用を始め、承認と停止の仕組みは最初の3か月で整える形が現実的です。
