便利だからこそ要注意。生成AIに入力してはいけない情報とは？

近年、ChatGPTをはじめとする生成AIは、文章作成、要約、翻訳、アイデア出し、資料作成など、さまざまな場面で活用されるようになりました。業務の効率化や情報整理に役立つ一方で、生成AIの使い方を誤ると、思わぬ情報漏洩につながるおそれがあります。

特に注意したいのが、生成AIに入力する情報の内容です。
「少しだけなら大丈夫」「名前を入れなければ問題ない」「社内で使うだけだから安全」といった判断で重要な情報を生成AIに入力してしまうと、企業や個人に大きな影響を及ぼす可能性があります。

生成AIは便利なツールですが、何を入力してよいか、何を入力してはいけないかを理解したうえで使うことが重要です。このコラムでは、生成AIに入力してはいけない具体的な情報の種類や、生成AIのよくある危険な使い方、そして安全に活用するためのポイントを解説します。

生成AIに入力してはいけない情報

① 個人情報

まず注意すべきなのは、個人情報です。氏名、住所、電話番号、メールアドレス、生年月日、勤務先、顔写真、本人確認書類の情報などは、安易に生成AIへ入力してはいけません。

たとえば、顧客から届いた問い合わせ内容をそのまま生成AIに貼り付けて返信文を作成する場合、本文内に氏名や連絡先、注文番号、相談内容などが含まれていることがあります。

一見すると業務効率化に見えますが、入力内容によっては個人情報を外部サービスに送信することになります。個人を特定できる情報が含まれていないか、必ず確認する必要があります。

② 顧客情報や取引先情報

次に注意すべきなのが、顧客や取引先の情報です。顧客リスト、商談履歴、契約内容、問い合わせ履歴、クレーム内容、見積金額、取引条件などは、企業にとって重要な情報であり、生成AIに入力して分析や文章を作らせたりすることは、情報管理上のリスクになります。

たとえば、「この顧客への提案メールを作ってほしい」と考えて、顧客名、課題、予算、過去のやり取りをそのまま入力してしまうケースがあります。しかし、入力内容には取引先との関係性や営業戦略、未公開の条件などが含まれている可能性があります。顧客や取引先に関する情報は、社外秘情報として慎重に扱うべきです。

③ 社内資料や機密情報

また、社内資料や機密情報の入力にも注意が必要です。経営方針、売上データ、開発中の商品情報、人事情報、社内会議の議事録、未公開のプレスリリース、マーケティング戦略などは、外部に漏れてはいけない情報です。資料の要約や文章の整形が目的であっても、生成AIに貼り付ける内容が機密情報に該当しないかを確認しなければなりません。

特に、会議の議事録や社内チャットの内容は注意が必要です。話し言葉の中には、個人名、部署名、売上見込み、課題、トラブル内容などが含まれやすいため、そのまま入力すると意図せず重要情報を外部に送信してしまう可能性があります。

④ ID・パスワード・認証情報

さらに、ログインID、パスワード、APIキー、認証コード、アクセス権限に関する情報などは絶対に生成AIへ入力してはいけません。万が一漏洩すると不正アクセスにつながるおそれがあります。エラーの原因を調べるために、システムのログや設定情報を貼り付ける場合も、認証情報が含まれていないか細心の注意が必要です。

⑤ ソースコードやシステム構成情報

ソースコードやシステム構成情報も注意対象です。開発中のプログラム、社内システムの仕様、脆弱性に関する情報、サーバー構成、データベース情報などは、企業のセキュリティに直結します。コードレビューやエラー解消に生成AIを使う場合は、社外秘のロジックや接続情報、顧客データが含まれていないか確認する必要があります。

生成AIのよくある危険な使い方

生成AIの利用で起こりやすいのが、「便利だから」という理由で、深く考えずに情報を貼り付けてしまうことです。たとえば、次のような使い方には注意が必要です。

• 顧客からの問い合わせメールをそのまま貼り付けて、返信文を作る
• 社内会議の議事録を貼り付けて、要点をまとめる
• 契約書や見積書の内容を入力して、確認してもらう
• 社員情報を含む一覧表を貼り付けて、分析してもらう
• システムエラーのログをそのまま貼り付けて、原因を聞く

これらは自然な使い方に思えますが、入力内容によっては個人情報や機密情報が含まれます。生成AIを使う前に、「この情報を外部サービスに送っても問題ないか」という視点で確認することが大切です。

【実態調査】生成AI利用者の約5人に1人が「シャドーAI」リスク

生成AIを安全に使うためのポイント

① 事前の情報確認

生成AIを安全に使うためには、まず入力前に情報を確認する習慣をつけることが重要です。個人名、会社名、住所、電話番号、メールアドレス、金額、契約内容、社内固有の情報などが含まれていないかを確認しましょう。

② 匿名化・抽象化の活用

必要に応じて、情報を匿名化・抽象化することも有効です。実在する顧客名を「A社」、個人名を「担当者」、具体的な金額を「一定額」などに置き換えることで、リスクを下げることができます。ただし、匿名化したつもりでも、文脈から個人や企業が推測できる場合があります。単に名前を消すだけでなく、内容全体を確認することが大切です。

③ 社内ルールの遵守

会社で定められた利用ルールを守ることも欠かせません。利用が許可されている生成AIツールか、入力してよい情報の範囲はどこまでか、業務利用時の確認手順はあるかなどを把握しておきましょう。判断に迷う場合は自己判断で入力せず、上長や情報システム部門、管理部門に確認することが必要です。

【関連記事】生成AIリスクとは？企業が知るべき危険性と安全対策ガイド

企業全体で生成AIを安全に活用するために

生成AIによる生産性の向上は大きな魅力ですが、正しい利用方法やリスクへの理解が不十分だと、生成AIの能力を十分に活かせないうえに、情報漏洩などの脅威を招くおそれもあります。

エルテスでは、生成AIを利用するすべての人に向けて、リスクを理解しつつ最大限に利用するノウハウを提供する「生成AIリスク研修サービス」を提供しています。従業員から管理職まで全階層をカバーし、AI業務適用などの要望に応じたカスタマイズが可能です。

まとめ

生成AIは、業務効率化や文章作成を助けてくれる非常に便利なツールです。しかし、便利だからこそ、入力する情報には十分な注意が必要です。個人情報、顧客情報、取引先情報、社内の機密情報、認証情報、システム情報などは、安易に入力してはいけません。生成AIを使う際は、「この情報は外部に出してもよいものか」「個人や企業が特定されないか」「社内ルールに反していないか」を確認することが大切です。

生成AIは、正しく使えば強力な味方になります。しかし、使い方を誤れば、情報漏洩や信用低下につながるリスクもあります。便利さに流されず、入力する情報を一度立ち止まって確認する。その意識が、安全なAI活用の第一歩です。

生成AIの安全な業務利用と体制整備に関心がございましたら、まずはお気軽にエルテスへご相談ください。

生成AI対策に関するご相談はこちら

コラム一覧へ戻る