生成AIの情報漏洩対策｜3経路別の必須対策と社内ルール7要素を公的基準で解説
業務効率化や生産性向上の手段として急速に普及している生成AIですが、それと同時に懸念されるのが情報漏洩リスクです。生成AIの情報漏洩対策は、「個人情報や機密情報を入れない」と呼びかけるだけでは不十分です。情報システム部門やセキュリティ責任者には、業務効率化を止めず個人情報・営業秘密・認証情報の流出を抑える設計が求められます。
このコラムでは、生成AIで情報漏洩が起こる経路を「入力」「生成物」「環境」という3つの経路に分類したうえで、技術・組織・教育の3軸で実装すべき対策を、エルテスのDLP設計・社内ガイドライン策定・インシデント対応の経験から整理します。
▶ユーザーの検索行動が変化生成AI時代における新たな企業リスクとは【無料】ダウンロード
生成AIで情報漏洩が起こる3つの経路
生成AIによる情報漏洩対策を検討する前に、まず「どこから情報が漏れるのか」という原因を把握することが重要です。ここでは、「入力」「生成物」「環境」の3つの経路で整理し、再発防止策を設計するアプローチをご紹介します。
①入力経路—プロンプトに機密情報を入れてしまう
最も典型的なのは、従業員がプロンプトに顧客情報や契約書、ソースコード、未公開提案資料等のを貼付してしまうケースです。サービス提供者側での保存や利用条件を確認しないまま使用すると情報が漏洩する可能性が残ります。
個人情報保護委員会が発表した「生成AIサービスの利用に関する注意喚起」にも生成AI利用時の個人情報入力に注意を促しており、入力前の判断基準を社内で定める必要があります。
▶生成AIに入力してはいけない情報について気になる方はこちら
②生成物経路—出力結果をそのまま業務利用する
次に警戒すべきなのは、生成物が出力した生成物そのものがリスクになる経路です。生成AIは過去に入力されたプロンプトや同期させている他アプリ/サービスの情報を組み合わせて文章を生成させるため、予期せず機密性の高い情報が出力されてしまう危険性があります。
例えば、企業名がマスキングされた売上情報が書かれている資料Aと、企業名の記載はあるが詳細の数値がマスキングされた資料Bを、生成AIが学習することで、本来は結びつくはずのない具体的な社名と数値を合わせた回答を生成してしまう可能性があります。そのため、機密情報の入力管理に加え、生成物に対して必ず人間によるレビューを行う必要があります。
また、社内のデータと連携して利用する場合、生成AIがアクセス権が適切に設定されていない社内データを参照する（オーバーシェアリング）ことによって、意図せず本来権限のない情報が出力される可能性もあります。
③環境経路—シャドーAI・外部攻撃・プロンプトインジェクション
最後は、利用環境に起因する経路です。シャドーAI、認証情報窃取、ブラウザ拡張、外部サイト埋め込みのプロンプトインジェクションなどが挙げられます。
特に、検索連携型や社内文書連携型の生成AIでは、悪意ある指示文を外部コンテンツから読み込む可能性もあります。IPA（情報処理推進機構）も認証管理・マルウェア対策・ログ監視の基本を継続的に呼びかけており、生成AIの情報漏洩対策は従来型セキュリティ対策の接続が前提となります。
▶AI検索の誤回答が企業のブランド毀損につながる原因と対策についてはこちら
公的ガイドラインに準拠した対策フレームワーク
現場任せの注意喚起では対策が属人化してしまいます。社内稟議や監査説明に耐える生成AIの情報漏洩対策には、公的資料を根拠に技術・組織・教育の3軸でフレームワーク化することが有効です。
完璧な統制を最初から目指すのは難しいため、まずは次の3軸のどこが整備不十分なのかを棚卸しするところから始め、相互補完される対策を整えることを推奨します。
技術的対策
3軸のうち最初に整えるべきは技術的ガードレールです。「法人プラン契約」「DLP導入」だけでは現場の抜け道は塞げません。DLP・CASB・プロキシ設計から、機能する設計と形骸化する設計を分けて説明します。
法人プラン選定では、入力データの学習利用可否、管理者の利用ログ確認、アカウント一元管理を最低要件とすることをお勧めします。製品名（知名度）で判断せず、監査ログの確認やアカウントや権限の管理のしやすさを確認しましょう。総務省と経済産業省が策定した「AI事業者ガイドライン」においても、利用状況を把握し説明可能にする姿勢を求めています。
さらに、DLPとCASBによるプロンプト検査の具体的な対応方法として、以下の5つの視点が重要です。
- 個人情報や機密情報を検知対象にする
- 即時ブロックでなく警告表示と申請導線を併用する
- 部門別の例外ルールを設ける
- 検知ログの月次レビューを行う
- 教育資料と検知ルールの文言を一致させる
一方で、厳しすぎるブロックは現場の運用に即しておらず個人アカウントに逃げてしまうこともあるため、全面禁止ではなく承認済み・要申請・禁止の3段階に分け、シャドーAIの検知と統制を行うことが重要です。
組織的対策
技術制御だけでは対象外データや個人プラン利用が抜け道になります。そのため、生成AIの情報漏洩対策では、社内ガイドラインを明文化し、既存の情報セキュリティ規程や個人情報取扱規程に接続させる必要があります。
ガイドラインには以下の7つの要素を盛り込むことが望ましいです。
- 利用目的（許容用途）
- 利用範囲（認済み/禁止サービス）
- 入力禁止情報
- 生成物取扱（レビュー・根拠確認・社外利用条件）
- 例外承認（申請先）
- インシデント（報告先・初動・証跡保全）
- 教育（入社時・更新時・発生後）
尚、入力禁止情報に関しては、個人情報・営業秘密・取引先受領の機微情報・知財（ソースコード、設計情報）・認証情報で分類すると整理しやすくなります。
それぞれ具体的にどういった情報なのか、自社の業務フローの中でどのような扱いの情報なのか、を定義することで入力禁止情報に対する解像度が高まります。
エルテスでは、従業員から「この情報は入力禁止情報にあたるのか？」といった疑問を吸い上げ、それぞれ個別に判断し、従業員の理解向上を促しています。
教育的対策
ガイドラインと技術設備が揃っても継続的な教育とモニタリングが止まれば半年ほどで形骸化してしまう危険性があります。継続させる企業ほど、教育タイミング・KPI・初動対応フローを最初から決めています。
教育は年1回の研修やeラーニングだけでは十分とは言えません。エルテスでは以下3回の教育実施を推奨しています。
- 入社・異動時
- 利用サービスやガイドライン更新時
- インシデント・ヒヤリハット発生後
特にインシデント後は実際のログや匿名化事例を使えるため従業員の理解が進みやすくなります。
モニタリングのKPIは、シャドーAIのアクセス件数、DLP検知件数、警告後再送信率、例外申請件数などが考えられます。ただし、罰則目的では現場が隠してしまう恐れもあるため、初期は業務ニーズ把握目的で扱うのが良いでしょう。デジタル庁の「テキスト生成AI利活用ガイドブック（α版）」も教育・運用設計の参考になるので、是非確認してみてください。
よくある質問と次のアクション
最後に、DLP設計と社内ガイドライン策定において現場から寄せられることの多い疑問点と対応策をいくつかご紹介します。生成AI情報漏洩対策は例外判断で止まりやすいため、FAQを先に用意すると現場展開がスムーズです。
Q. 社内のガイドラインの定期的見直しは必要か
生成AIを取り巻く環境やサービス内容は極めて速いスピードで変化を続けているため、定期見直しは必須要件になります。数か月前に作ったガイドラインが現状と合っていないというケースは少なくありません。
特に、新しい生成AIサービスの導入やサービスの規約変更、新機能/サービスの追加などのタイミングで、既存のガイドラインやルールと整合性が取れているか確認することを推奨します。
Q. 無料版や個人アカウントの併用は認めてよいか
原則、業務利用は承認済み環境に集約することを推奨します。個人アカウントはログ確認・退職時削除・管理者統制が難しいため、機密情報を扱わない用途でも利用範囲を限定すべきです。
Q. 学習オフ設定があれば機密情報を入力してよいか
学習オフだけで入力可とは判断しない方が安全です。入力した情報がどこにどれだけ保管されるのか、情報がどのように扱われるのかを必ず確認する必要があります。まずは、入力禁止情報は学習利用の有無ではなく、情報漏洩時の影響度で考えることをお勧めします。
Q. 海外子会社にも同じ社内ガイドラインを適用できるか
基本方針は共通化できますが、現地法令・契約・利用サービスの提供条件を確認する必要があります。
Q. 生成物はそのまま社外資料に使えるか
人によるレビューと根拠確認が必要です。契約・法務・医療・財務・セキュリティに関わる内容は下書き扱いとし、最終判断は専門部門が行うことを推奨します。
Q. 退職者アカウントは何を確認すべきか
法人アカウント、連携アプリ、APIキー、ブラウザ拡張、共有プロンプト、社内ナレッジ連携権限を確認します。退職者管理は環境経路の漏洩防止に直結します。
【無料】生成AIによる自社の評判・誤情報リスクの簡易調査受付中！
まとめ
生成AIは、生産性の向上に寄与する強力なツールである一方で、情報漏洩や誤情報の拡散といったリスクと常に隣り合わせの技術でもあります。これらのリスクを防ぐためには、現場個人の判断に依存するのではなく、組織全体として技術・組織・教育の3つの軸からなる包括的なガバナンス体制を整備することが不可欠です。
エルテスでは、企業の生成AI安全利用を支援する「生成AIルール策定支援サービス」を提供しています。AI倫理ポリシーや利用ガイドライン、運用マニュアル、チェックシートを一括で策定し、ガバナンス構築をサポートします。
自社がどのような状況に置かれているのか、どのような情報資産を守るべきなのかを正しく把握したい方はお気軽にエルテスへご相談ください。
