【情報漏洩事例に学ぶ】生成AIに顧客情報をうっかり入力させないための入力統制ガイド

営業やカスタマーサポートの現場では、問い合わせ文面の要約や返信案の作成、クレーム内容の整理など、生成AIの活用がしやすい場面が多々あると思います。しかし、便利だからといって安易に利用してしまうと、「顧客名を含む相談内容をそのまま貼り付ける」といった、個人情報や機密情報の入力リスクに繋がる危険性もはらんでいます。

出典：Cisco Systems「シスコ 2025 データ プライバシー ベンチマーク調査」

Cisco Systemsが公表したデータプライバシーの動向と企業への影響に関する8回目の年次調査「Cisco 2025 Data Privacy Benchmark Study」によると、生成AIに顧客名・顧客情報を入力している割合が31%、従業員名・個人情報の入力が46%、非公開の自社情報の共有が42%にも上ることが報告されています。

入力された個人情報や機密情報がその後、どこにどういった形で漏洩してしまうのか、把握しきれないという点が大きな問題として存在しています。このコラムでは、事例をもとに、顧客データの入力事故をどのように防ぐのが良いか、その具体的なアプローチを紹介します。

▶ユーザーの検索行動が変化生成AI時代における新たな企業リスクとは【無料】ダウンロード

生成AIへの入力事故の事例

事例1：業務効率化による社外秘の入力

ある大手電機メーカーでは、生成AIの社内利用を許可した直後の約1か月の間に、社外秘情報を生成AIへ入力する事案が3件発生しました。入力されたのは、①不具合のあるソースコード、②不良設備を特定するためのプログラムコード、③社内会議の録音を文字起こしした議事録と発表されています。

当時の生成AIは、入力データが提供事業者に保持・学習利用される仕様だったため、社外秘が外部に渡るリスクが問題になりました。情報漏洩発覚後、同社は生成AIの利用を一時禁止し、社内AIのプロンプト上限に制限を掛け、社内教育の徹底という対応を行っています。

▶生成AIに入力してはいけない情報が気になる方はこちらをチェック！

事例2：共有設定により会話が検索エンジンに公開

ある大手生成AIサービスでは、共有した会話を検索エンジンから発見可能にするオプション機能が提供されていました。この機能を有効にした会話が検索エンジンの検索結果にインデックスされ、第三者が閲覧できる状態になっていたことが確認されました。

検索結果からは4,500件以上の会話が確認されており、機微な内容を含む事例も報告されています。この事態を受け、提供事業者は批判を受け、オプション機能の撤去と検索エンジン上からの削除の対応を数日間かけて行いました。

▶生成AIリスクについて知りたい方はこちらをチェック！

事例3：共有機能による意図せぬURL公開

また、別の大手生成AIサービスでも、共有ボタンをクリックするとURLが生成される設定だったが、そのURLが利用者の明確な認識のないまま公開され、複数の検索エンジンにインデックスされたという事例が発生しました。公開警告が乏しかったため、気づかないユーザーも多く、医療や心理相談、業務上の情報が誰でも見られる状態になっていました。

こうした事態から、意図せぬ露出が特定のサービスに限った話ではないといえます。

▶生成AIの情報漏洩対策について気になる方はこちらをチェック！

事例から学ぶリスク・教訓

① 学習・二次利用による漏洩

大手電機メーカーの事例では、純粋に業務効率化を目的としてコードや議事録を生成AIへ入力したものと考えられますが、問題の核心は「入力データが提供事業者に保持・学習利用されうる仕様だった点」にあります。仮に入力した情報が顧客対応における問い合わせ履歴や購入履歴、自身の業務に関する相談内容であったとしても、マスキングすることなくそのまま入力すれば、同じ構造のリスクが生じます。この入力事故は、現場で広く起こりうる運用リスクの一つであると整理できます。

出典：総務省「令和7年版 情報通信白書｜企業におけるAI利用の現状」

総務省が出している情報通信白書では、生成AIの活用方針を定めている企業は49.7%とされますが、方針だけでは十分ではありません。現場の担当者が入力可否を判断できる粒度まで、ルールと技術統制を落とし込む必要があります。

② 共有・履歴機能からの意図せぬ露出

生成AIとの会話が検索エンジン上にインデックスされた事例に関しては、ユーザーによる仕様の確認不足や入力後の共有操作、サービス提供側のUI設計が不十分だったことが問題として挙げられます。ここから得られる教訓は「ユーザーの教育や入力情報のマスキングをすれば問題ない」という単純な話ではないということです。

一度生成AIに入力された情報は、共有リンクや履歴、検索インデックス、アーカイブなど、ユーザーが気付きづらい経路を通じて広がってしまう可能性があります。紹介した二つ目と三つ目の事例から、入力統制が「禁止か許可か」という観点ではなく、許可されたものに対して「入力後に制御不能になっても困らない情報か」という観点が必要であることを示してくれています。

③ 個人情報保護法上の責任

個人情報保護委員会は、個人情報を含むプロンプト入力では、特定された利用目的の達成に必要な範囲内であることや、提供事業者が入力情報を機械学習に利用しないこと等を十分に確認することを求めています。また、個人情報保護委員会事務局は、特定の生成AIサービスについて、取得した個人情報を含むデータが中国所在のサーバに保存され、中国の法令が適用され得る点を指摘しています。

問い合わせしてくれたお客様の情報や、取引先の担当者情報など個人情報が含まれる内容を生成AIに入力するという行為は、第三者提供や委託、外国にある第三者への提供に接続しうる可能性もあるため、原則入力しないと定めることを推奨します。

生成AIの入力可否の線引きを従業員の判断に委ねてしまうと、本来は入力してはいけない情報を入力してしまう可能性が飛躍的に高まります。ガイドラインや従業員研修で「個人情報は入力しないでください」「入力するプロンプトには十分に注意してください」という発信だけでは不十分です。

入力前に止める仕組み、入力内容を減らす仕組み、利用できるツールを限定する仕組みを整える必要があります。

エルテスの「生成AIの利用に関する調査」によれば、許可されていない生成AIツールを利用する「シャドーAI」の経験者は約5人に1人に上り、個人情報を含むデータを入力したという回答も一定数存在しています。

出典：株式会社エルテス「【実態調査】生成AI利用者の約5人に1人が「シャドーAI」リスク」

またGRASグループ株式会社の「生成AIの活用実態に関する匿名意識調査」では、シャドーAI利用者の23.1%が機密情報を入力し、課長・部長クラスでは37.5%と発表されています。

出典：GRASグループ株式会社「シャドーAIに「機密情報」を入力する割合、
“課長・部長クラス”において一般社員の約2倍にのぼる」

各社の調査結果からも分かる通り、社内での教育は新人や一般社員だけでなく、部門長や管理職にも同じ基準で実施する必要があります。

生成AIへの入力に関するよくある質問

Q. 顧客情報を生成AIに入力する際に気を付けるべきことは？

可能な限りマスキングした状態で生成AIに入力することを推奨します。やむを得ず個人情報をそのまま入力する必要がある場合は、利用目的の達成に必要な範囲内であること、提供事業者が入力情報を機械学習に利用しないこと等を十分に確認してください。

Q. 法人向けプラン（学習に使わない設定）なら顧客情報を入力しても大丈夫ですか？

学習に使わない設定だからといって自由入力を認める理由にはなりません。利用している生成AIサービスによって、情報の保持期間があったり、海外サーバーに情報が保管される場合もあります。そのため、基本的に顧客情報や機密情報の入力は避ける運用を前提にすることを推奨します。

Q. 入力前にマスキング（伏字）すれば問題ありませんか？

マスキングは有効な対策の一つと言えます。大量の情報を扱う場合、手作業だけでは漏れが起きやすいため、個人識別情報や固有名詞を自動で伏字や置換をする仕組みを検討することが望ましいです。

Q. 委託先・外注先による生成AIへの顧客データ入力は、どう管理すべきですか？

委託先が生成AIを使う場合、委託先の監督や安全管理措置の観点が重要になります。入力可能な情報、利用可能なサービス、ログ確認など、再委託時の扱いは契約や運用ルールで明確にしておくことが望ましいです。

Q. 利用を全面禁止すれば漏洩は防げますか？

全面禁止だけでは、非公認のシャドーAI利用を招く可能性が高まってしまう可能性もあります。単純に禁止とするのではなく、許可制、教育、技術統制などを組み合わせてリスクを予防することが重要です。

 【無料】生成AIによる自社の評判・誤情報リスクの簡易調査受付中！

まとめ

生成AIは業務効率化を大きく前進させるいる一方で、個人情報や機密情報の意図しない流出を招き、深刻なインシデントに発展するリスクも併せ持っています。

もちろん法人向けプランの導入は有効かつ会社で利用するのであれば必要な選択肢ではありますが、「学習されない設定だから何を入れてもよい」と考えてしまうことは非常に危険です。個人情報や機密情報の入力統制は、生成AIの利用禁止だけでも、教育だけでも足りません。ガイドラインの整備、ガイドライン浸透のための従業員研修、入力情報のマスキング対応、システム面でのアクセス制御などを組み合わせて、現場が迷わず運用できる状態を作ることが重要です。

エルテスでは、ガイドライン策定や見直し、役職別の従業員研修など環境の整備から運用まで、様々なフェーズに即したサービスを提供しています。また従業員が正しく生成AIを利用できているのか（シャドーAIは発生していないか、個人情報や機密情報の入力をしていないか）など、ログから見えるリスク分析の支援も行っております。

生成AIの安全な活用基盤を構築し、見えないリスクから企業を守るための第一歩として、ぜひお気軽にエルテスにご相談ください。

生成AIリスク対策・相談は、エルテスへ

コラム一覧へ戻る