既存ルールを活かしたAIエージェントガイドラインの策定｜最小限の改訂でリスクを管理する手法

AIエージェントの導入を進める際、「生成AIのガイドラインや社内利用ルールがすでにあるから大丈夫」と思っていると、大きなリスクに苛まれる可能性があります。既存のガイドラインは主に「従業員（人）を統制する」ことを目的としており、自律的に動く「AIの統制」までは対策できないからです。

とはいえ、実務担当者の目線で考えると、AIエージェントのためだけに新しくガイドラインを作り直すのは負荷が大きいかと思われます。

このコラムでは、規程をゼロから書き直さず、AIエージェントのガイドラインとして足りない差分だけを足していく最小手順を紹介します。

▶ユーザーの検索行動が変化生成AI時代における新たな企業リスクとは【無料】ダウンロード

なぜ今、既存の生成AIガイドラインでは足りないのか

そもそもAIエージェントとは、ユーザーの指示をもとに、複数のツールやAPIをAIが自ら組み合わせ、一連のタスクを自動にこなすAIのことを指します。

従来のチャット型AIは、「ユーザーが指示し、生成AIが回答、またユーザーが指示し…」と、常にユーザー（人）がAIの次の動きを決めていました。一方で、AIエージェントは異なります。たとえば「商談予定のお客様にメール送信して記録して」という指示だけで、「データベースへアクセス→条件に合う顧客リスト抽出→メール案を作成→送信予約→SFA/CRMツールへ登録」と、AIが判断しながら一気に対応してしまいます。

AIエージェントに潜む特有のリスク

このように自律的に動くAIエージェントにおいて、最も警戒すべき懸念点は「権限過剰」です。本来は閲覧権限のみでよいのに、AIエージェントに顧客データベースの更新や削除までできてしまう権限が付与されていると、知らないうちにデータベースが書き換えられていた、といったような事象も発生し得ます。

もう一つ、注意すべきリスクとして「連鎖暴走」が挙げられます。人の確認を挟まずに処理が自動で進むと、誰がどこで承認したのか後から誰も説明できないので、気付いたら全く関係のない顧客に、他社情報に関するメールを送信していたという事態が発生する恐れがあります。

関連記事：生成AIリスクとは？企業が知るべき危険性と安全対策ガイド

既存ガイドライン×エージェント差分の対応表

では、生成AIのガイドラインに何を足せばいいのか、既存の項目がAIエージェントの導入でどう変わるかについて整理します。変更なし・追記必須・新設必須で確認いただければ、生成AIガイドラインの改訂をどこから手をつけるかが分かりやすいと思います。

上記表の通り、項目ごとに細かな改訂が必要ですが、まずは権限範囲、行動ログ、承認フローの3つを先に整えることを推奨します。
権限設計と監査ログの重要性は、AIエージェント導入を扱ったこちらのコラムでもご紹介した通りです。利用目的・禁止事項・情報管理を定めるという土台の考え方そのものは、これまでの生成AIガイドラインと大きくは変わりません。既存ルールがある会社であれば、その土台に固有項目を差し込むだけで対応できる場合が大いにあります。

とはいえ、担当者がつまずいてしまうポイントは、①権限過剰、②外部送信前の未承認、③ログ不足の3点に集中しています。「社外秘を入れない」と一行書いたところで、AIエージェントの広範囲なデータベース参照までは止められません。だからこそ、AIエージェントのガイドラインづくりにおいては、必ずこの3点を明確に押さえておくことが重要です。

関連記事：【事例に学ぶ】AIエージェント導入に潜むリスクと対策

権限範囲：最小権限とJITを明文化する

権限は、最小権限が原則です。加えてJIT権限（必要なときだけ一時的に渡す権限）も過剰権限を避けるのには有効的です。

追記内容のイメージ

AIエージェントには、承認された業務目的に必要な最小限の閲覧・作成・更新権限のみを付与する。削除、外部送信、契約・発注は常時権限を与えず、管理者の都度承認を要する。

また、RBAC（役割で権限を管理）やABAC（属性で権限を管理）も取り入れて、「営業支援エージェントは営業案件のみ閲覧可」といったように、具体的に記載することで現場の理解度は向上します。

行動ログ：記録項目を絞り、監査に耐える形にする

ログは多ければ多いほど良い、というものではありません。むしろ、後から検証できる最小セットを決め、保存先と閲覧者を絞る方が機能しやすくなります。

追記内容のイメージ

実行ログは業務影響度に応じて記録し、管理者が確認する。個人情報を含むログはアクセス権を制限し、保存期間を別表で定める。
取得ログは以下の通りとする。
実行日時、利用者、エージェント名、目的、入力指示、参照データ、呼び出したツール、実行内容、外部送信の有無、承認者、エラー内容、停止・差戻し理由

自律型AI承認フロー：HITLを3段階で設計する

HITL（ヒューマンインザループ）とは、AIの判断や実行の途中に、人の確認・承認を挟む考え方です。AI事業者ガイドライン第1.2版でも、自律型AIエージェントに関する人間関与の重要性が示されています。

追記内容のイメージ

個人の権利利益、契約上の義務、金銭的損失、社外信用に重大な影響を与える業務については、AIエージェントによる全自動実行を禁止する。該当業務では、担当者または責任者が出力内容、根拠、実行結果を確認したうえで処理する。

さらに、ガイドラインには上記を記載した上で、より具体的な業務であればどうなのかを併せて明示しておくと良いでしょう。リスクを低・中・高の3段階で分けておくと現場の理解も浸透しやすくなります。

• 低リスク：社内メモの要約、会議録の整理等
  →AIによる自動実行を許可
• 中リスク：顧客への連絡文作成、CRM更新等
  →人による承認後に実行を許可
• 高リスク：採用判断、与信判断、懲戒処分、契約締結等
  →AI単独での実行を禁止し、人との共同作業に限定

まずは対象業務をこの3段階に整理し、それぞれに応じた承認フローを定義することをお勧めします。

関連記事：生成AIの情報漏洩対策｜3経路別の必須対策と社内ルール7要素を公的基準で解説

ガイドライン最小改訂の5ステップ

生成AIガイドライン改訂の5ステップをご紹介します。

Step1：用語の整理

まずは、改訂に伴い新出する用語を整理しましょう。例えば、既存のガイドラインや規程に「生成AI」という用語しか出てこないのであれば、「自律型AIエージェント」を新たに定義して、チャット型とどう異なるのか区別しておく必要があります。

エルテスでは、ガイドラインを作成・改訂する際は、行政資料との整合も見ておくことを推奨しています。特に用語に関しては、一般的な言葉と定義を用いることが大切です。もしも海外取引や海外拠点があるのであれば、EUの規制動向も別途チェックしておく方が良いでしょう。

Step2：現行ガイドラインのギャップ確認

前述した対応表を参考に、既存文書に「変更なし」「追記」「新設」とメモを入れます。完璧な棚卸しよりも、権限・ログ・承認の空白を見つけることを優先しましょう。

Step3：優先3項目（権限範囲・行動ログ・承認フロー）の追記

権限範囲、行動ログ、自律型AI承認フローの叩き台を、既存文書に差し込みます。最初から100点にする必要はないですが、見る人によって解釈が異なるような書き方や表現はないよう心掛けるべきです。

例えば「出力は人間が確認する」だけだと、いつ確認するのかが曖昧です。実行前、外部送信前、削除前、あるいは金銭や契約が関わる前など、様々なタイミングがあり、人によって判断や行動がブレるような記載は避けるべきです。ログも「利用履歴を残す」では不十分であり、何を記録し、誰が見て、いつ見直すかまで、別表でも良いので必ず明記するようにしましょう。

Step4：変更差分の周知

変更後のガイドライン全文を周知する必要はなく、「AIエージェントで変わる点」を1枚にまとめて社内周知するだけで問題ありません。むしろ全文だと、どこかどう変更になったのか確認し辛く、読まれない結果を招きかねないため、まずは変更点を従業員に把握してもらうことが最優先です。

Step5：3か月後の見直し

インシデントがなくても、運用を続ける中でログ過多や承認作業の遅延、ルール外の運用の予兆が現れてくると思います。AIエージェントのリスクは運用を始めてから見えてきます。そのため、実行ログを見ながら必要な項目を再抽出・構成することで、常に実態に即したガイドラインとして更新し続ける姿勢が重要です。

関連記事：生成AIリスクと企業ガバナンス実装ガイド

よくある質問

最後に、改訂で迷いやすい点や、ガイドラインを運用に乗せるための判断材料をまとめました。

Q. 既存の生成AIガイドラインがない場合、どこから手をつければよいか

まず生成AI全般の基本ルール（利用目的・入力禁止情報・出力確認・禁止用途）から作り、その中にエージェント項目（権限・ログ・承認）を入れるのがよいと思います。

Q. AIエージェントがミスをした場合、責任は誰が負うか

実務では、AIではなく、導入・利用・承認を担う組織側の責任であると設計しておくことをお勧めします。担当者、業務責任者、管理者など、それぞれの役割を規程に書き、承認ログで後から追える状態にしておくことが有効的です。

Q. 全自動化を禁止すると、導入メリットが消えないか

最初から完璧な全自動を目指すのではなく、定型メールの下書き、社内FAQ候補、会議メモの整理など低リスクの仕事から自動化し、品質とログを見ながら、ヒューマンインザループを少しずつ軽くしていけばいいと考えています。

Q. 行動ログはどの程度の期間保存すればよいか

法令で一律に決まっているわけではないため、業務の性質で判断されるのが良いと考えます。契約・金銭・個人情報に関わる実行ログは長めに、社内補助の業務は短めで良いでしょう。個人情報を含むログはアクセス権を絞り、保存期間は既存の文書保存規程に合わせると、無理がないと思います。

Q. 小規模（従業員50名未満）でもガイドライン改訂が必要か

外部送信やデータ更新をエージェントにさせるなら、規模に関係なく必要です。既存ルールを捨てて作り直すものではなく、まずは権限範囲・行動ログ・承認フローの3点を差分追記して、運用ログを見ながら直していくだけでも対応されることを推奨します。

【無料】生成AIによる自社の評判・誤情報リスクの簡易調査受付中！

生成AIリスク対策・相談は、エルテスへ

コラム一覧へ戻る