柳谷智宣の「簡単すぎて驚く生成AIの使い方」 第77回

生成AIに入れちゃダメな情報、わかってますか？　不正アクセスだけじゃない情報漏洩の原因

　本連載は生成AIをこれから活用しようとしている方たちのために、生成AIの基本やコピペしてそのまま使えるプロンプトなどを紹介。兎にも角にも生成AIに触り始めることで、AIに対する理解を深め、AIスキルを身につけて欲しい。第77回は、生成AIへの入力やアップロードによる情報漏洩の事例から、生成AIに入力してはいけない情報について解説する。

　Excelのデータを集計したり、会議の議事録を要約したりと、皆さんも生成AIを仕事に活用していることだろう。しかし、クラウドの生成AIサービスに何でもかんでもアップロードしていると問題になることもある。

　2026年10月23日、パナソニックグループは約33万4000人分の個人情報を含むデータが、社内で禁止されている外部生成AIにアップロードされていたと公表した。AIの学習には使われず、不正利用も確認されていないという。それでも、なぜ問題になったのだろうか。今回は、生成AIに入力してはいけない情報と、安全に活用する方法を紹介しよう。

約33万4000人分の個人情報が外部の生成AIにアップロードされた問題を公表。画像はパナソニック ホールディングス公式サイトより

学習オフでも安心できない？ パナソニックで起きた個人情報の送信問題

　発端は、人事情報システムの導入プロジェクトだった。担当者が、会社で利用を禁止されている外部生成AIに人事データの一部をアップロードしたという。外部からの不正アクセスによる流出ではなく、社内ルールに違反した操作だったのだ。

　対象は現役従業員約7万5000人や元従業員約17万8000人、その家族約8万1000人。従業員と元従業員のデータには社員番号や住所、電話番号、メールアドレスなどが含まれていたが、氏名はなかった。一方、家族の緊急連絡先には氏名も含まれており、9月29日、個人情報保護委員会に報告している。

　発覚後、担当者はAIのチャット履歴を削除し、会社はサービス事業者にデータの取扱いを確認した。アップロード時には学習利用が無効になっており、ほかの利用者への回答にもデータは使われないという。発表時点で一般公開や不正利用の被害も確認されていない。

　ただし、チャット履歴を消しても、データがすぐに消えるとは限らない。今回のサービスでは、セキュリティや法令順守のため、削除後も30日間保持される仕組みだった。パナソニックは、10月25日以降は事業者側でも保持されないとの回答を得ている。

　学習に使われず、不正利用も確認されていないとはいえ、会社が認めていないサービスに個人情報を送った点は問題だ。クラウドの生成AIにファイルをアップロードすると、データはサービス事業者のサーバーに送られる。「学習オフ」はAIモデルの改良にデータを使わないための設定で、外部への送信や事業者側での保存を止める仕組みではない。

　企業には、従業員の個人情報や顧客・取引先から預かった情報を、決められた条件で管理する責任がある。勝手に送信先を増やせば、保存や削除の状況を把握しにくくなり、事故が起きた際の対応も難しくなる。たとえ実害が発生していなくても、社内規則や契約に違反するならNGなのだ。

日立健保がRIZAPの特定保健指導の新規受付を停止、サムスンも生成AIの利用を制限

　2026年9月には、RIZAPも個人情報の誤送信を公表した。社員が、健康保険組合などから預かった特定保健指導の顧客データを、個人で利用していたOpenAIの「ChatGPT」に誤ってアップロードしたのだ。氏名や生年月日、保険証の記号・番号に加え、高血圧症や糖尿病などの疾患情報も一部含まれていた。疾患情報は法律上、特に慎重な取扱いが求められる「要配慮個人情報」に当たる。

　RIZAPは、データがAIの学習に使われたり、サービス事業者以外の第三者に閲覧されたりした可能性はないと説明した。もちろん、だから問題なし、というわけにはいかない。委託元の日立健康保険組合は、再発防止策を確認するまで、RIZAPによる特定保健指導の新規受付を停止すると発表している。

日立健康保険組合は、RIZAPによる個人情報の誤アップロードを受け、特定保健指導の新規受付停止を発表。画像は日立健康保険組合公式サイトより

　他にも、個人で使う生成AIに業務情報を入力してしまうケースは頻発している。KPMGコンサルティングが2026年に国内2788人を対象に行った調査では、約14％が私的な生成AIに業務上問題となる情報を入力した経験があると答えた。会社が把握・管理していない生成AIを仕事に使う「シャドーAI」が、企業の情報管理における新たな課題になっているのだ。

　社内の利用ルールを知らない従業員も少なくない。IPAが2025年に公表した調査では、生成AIの業務利用にルールがあると答えた人は52.0％にとどまり、34.5％はルールの有無を「わからない」と回答した。使ってよいAIサービスや入力できる情報の範囲がはっきりしなければ、従業員が判断に迷い、思わぬ問題を起こす恐れもある。

　個人情報だけでなく、企業の機密情報が生成AIに送られた事例もある。2023年、韓国のサムスン電子では、従業員が社内のソースコードなどをChatGPTに入力していたことが発覚したのだ。その後、機密情報が外部サービスに送信されたことが問題となり、同社は従業員による外部生成AIの利用を制限した。

生成AIの業務利用について、何らかのルールがあるとの回答は52.0％。画像はIPA「企業における営業秘密管理に関する実態調査2024」より

顧客名簿や契約書をAIで扱う前に利用環境と入力できる情報を確認しよう

　もちろん、顧客名簿や契約書でも、会社が承認したAI環境なら扱える。例えば、契約書のレビューに使える社内向けAIなら、実際の契約書を読み込ませ、条項の要約や確認事項の洗い出しを任せるのも問題なし。

　企業が顧客情報や契約書などの入力を認めるには、データを適切に保護できるAI環境が必要になる。例えば、企業向けのChatGPTや、Microsoftの「Azure OpenAI」で構築した社内向けAIなどが選択肢だ。Azure OpenAIでは、入力データがOpenAI側のサービスに送られず、利用者の許可なく基盤モデルの学習にも使われない。

　また、社内サーバーやPCで動かす「ローカルLLM」なら、外部への通信を行わない構成にすることで、社内だけで処理を完結できる。ただし、導入時には、外部APIとの連携や操作履歴の保存先、アクセス権限も確認しておきたい。

　一方、会社が利用を認めていないAIには、顧客名簿や従業員の給与・人事評価、健康情報、未発表の製品企画、開発中のソースコードなどを送ってはいけない。取引先の契約書や見積書も、金額や取引条件そのものが秘密に当たることがある。パスワードやAPIキーは、相談文や添付資料に含めないのが基本だ。

顧客名簿や契約書だけでなく、金融情報や認証情報、未公開の社内資料なども要注意。会社の許可なく外部生成AIに入力しないようにしよう

　必要な情報を扱えるAI環境がない場合でも、実データを渡さずに仕事を進める工夫はできる。例えば顧客名簿を地域別に集計するなら、列名と架空の数行を示し、Excelの関数を教えてもらえばよい。実際の集計を手元のExcelで行えば、顧客情報を社外へ送らずに済む。

　契約書を入力できない場合は、「業務委託契約で確認すべき項目を教えて」と頼み、チェックリストを作ってもらう方法もある。実際の契約書は担当者が読み、AIが挙げた項目を確認の手がかりにしよう。

　売上や購買履歴を年代別や地域別に集計し、個人を特定できない数値で分析を頼む方法も考えられる。ただし、集計値自体が社外秘に当たる場合もあるため、加工後のデータを送信してよいかは確認が必要だ。また、氏名を「顧客A」に置き換えるだけでは、住所や勤務先などから本人を特定できる可能性が残るので要注意。

　もし社内ルールに反して情報を送ってしまったら、チャット履歴を消して隠ぺいするのはNGだ。利用したサービスや送信日時、データの内容を確認し、すぐに社内の情報管理担当者へ報告しよう。データの削除依頼やサービス事業者への問い合わせは、担当部署の指示に従って進める方がよい。

　生成AIに資料を渡す際、どんな情報が含まれているか、外部に送信しても問題ないかを確認するのは面倒かもしれない。それでも、仕事でAIを使う以上、欠かせない確認なのだ。AIに的確な指示を出す力と同じくらい、渡す情報を選別し、適切に判断する力も重要になる。これから求められるAIスキルの一つとして、肝に銘じておこう。

■関連サイト

• 外部生成AIサービスへの個人情報アップロードに関するお詫びとお知らせ