生成AIの情報漏洩が心配な会社へ｜導入前に確認したい7項目

1. 入力データの学習利用

なぜ大事か

入力した内容がモデルの学習に使われると、ほかの利用者への出力に含まれるおそれがあります [1]。個人情報保護委員会は、個人情報取扱事業者に向けて、提供元が入力された個人データを「機械学習に利用しないこと等を十分に確認すること」を求めています [1]。

法人向けプランでは、各社が学習利用の方針を公開しています。たとえば ChatGPT Business の料金ページには「デフォルトではビジネスデータを学習に使用しません」とあります [9]。各社の記載は「法人向け生成AIの比較」にまとめています。

何を確認するか（質問例）

• 入力した内容や、つないだツールのデータを、AIモデルの学習に使いますか。
• 「学習に使わない」の対象は、どのモデルですか。自社のモデルだけですか、外部のAIサービスも含みますか。
• それは初期設定ですか。設定や契約によって扱いが変わることはありますか。
• 利用規約やプライバシーポリシーの、どこに書かれていますか。

2. 保存と暗号化

なぜ大事か

学習に使われなくても、入力した内容やつないだツールのデータは、サービス側に保存される場合があります。保存中と通信中にどう守られているか、どこに保存されるか、使わなくなったときに消せるかを確かめます。

何を確認するか（質問例）

• 保存時と通信時に、どの方式で暗号化していますか。
• どのクラウド基盤を使い、データはどの地域に保存されますか。
• ほかの顧客のデータと、どのように分けて管理していますか。
• 契約の終了後や、削除を依頼したとき、データはどう扱われますか。

3. アクセス権と共有範囲

なぜ大事か

社内での情報の広がりも、情報漏洩の一つです。AIが社内の資料やメールを参照して答える場合、本来その情報を見られない人にも、回答を通じて内容が伝わるおそれがあります。チームでAIを使うほど、「誰が、何を見られるか」の設計が大事になります。

何を確認するか（質問例）

• AIの回答は、質問した人のアクセス権の範囲の情報に限られますか。
• 個人の会話や下書きは、ほかのメンバーに共有されますか。共有の範囲は誰が決めますか。
• メンバーの追加や削除、権限の変更は、どこで管理しますか。
• AIがメールの送信など外部への操作をする場合、実行の前に人が確認できますか。

4. 第三者AIサービスの扱い

なぜ大事か

AIサービスの中には、外部のAIモデルや他社のサービスを組み合わせて動くものがあります。その場合、提供元の方針だけでなく、データが渡る先の条件も関係します。

外部の委託先との取り決めを公開しているサービスもあります。たとえば Notion は「Notionは、AIサブプロセッサーと契約を締結し、ユーザーデータをモデルの学習に使用することを禁止しています。」と説明しています [10]。こうした記載があるかどうかも、確認の材料になります。

何を確認するか（質問例）

• どの外部AIサービスやモデルを使っていますか。委託先（サブプロセッサー）の一覧はありますか。
• 外部のサービスに送られるのは、どの範囲のデータですか。
• 外部のサービス側での学習利用や保存期間は、どう定められていますか。
• 使う外部サービスが変わるとき、利用者に知らせますか。

5. 認証・監査

なぜ大事か

提供元の運用体制を、利用者がすべて自分で確かめることはできません。第三者による認証や監査の結果は、その判断材料になります。認証には対象となる範囲があるため、適用範囲もあわせて確認します。

何を確認するか（質問例）

• ISO/IEC 27001 や SOC 2 などの認証・監査を受けていますか。対象のサービスと範囲はどこまでですか。
• 認証書や監査報告書は、どのような条件で見られますか。
• ログインの方法（シングルサインオン、多要素認証など）は選べますか。
• 管理者は、利用状況や操作の記録を確認できますか。

6. 社内ルール

なぜ大事か

ツール側の対策だけでは、すべては防げません。何を入力してよいか、どのサービスを使ってよいか、出力を誰が確かめるか。使う人の判断に任せると、使い方が人によってばらばらになります。

総務省・経済産業省の「AI事業者ガイドライン（第1.2版）」は、第5部「AI 利用者に関する事項」で、「安全を考慮した適正利用」「個人情報の不適切入力及びプライバシー侵害への対策」「セキュリティ対策の実施」「提供された文書の活用及び規約の遵守」などの項目を挙げています [2]。

規程を一から作るより、いまある情報セキュリティの規程に生成AIの項目を足すほうが、運用しやすい場合もあります。IPA の「中小企業の情報セキュリティ対策ガイドライン」第4.0版には、付録として「情報セキュリティ関連規程（サンプル）」があります [3]。

何を確認するか（社内で決めること）

• 入力してよい情報と、入力してはいけない情報は何か。
• 業務で使ってよいAIサービスはどれか。個人のアカウントでの利用はどう扱うか。
• AIの出力を、誰が確かめてから社外に出すか。
• 迷ったときの相談先はどこか。

社内ルールのひな形は「生成AI 社内利用ルールのテンプレート」で紹介しています。

7. 個人情報の扱い

なぜ大事か

顧客や従業員の個人情報をAIに入力する場合は、個人情報保護法との関係を確かめます。個人情報保護委員会は、2023年6月2日の注意喚起で、個人情報取扱事業者に向けて次の点を挙げています [1]。

• 個人情報を含むプロンプトを入力する場合は、特定された利用目的の範囲内であること。
• 本人の同意なく個人データを入力し、それが応答の生成以外に使われる場合は、法に違反するおそれがあること。そのため、提供元が機械学習に利用しないこと等を十分に確認すること。

一般の利用者に向けては、出力に不正確な個人情報が含まれる可能性や、利用規約とプライバシーポリシーを確認することも挙げています [1]。AI事業者ガイドライン（第1.2版）でも、利用者向けの項目に「個人情報の不適切入力及びプライバシー侵害への対策」があります [2]。法改正の状況など最新の情報は、個人情報保護委員会のサイトで確認してください。

何を確認するか（質問例）

• 個人情報を入力する業務はどれですか（顧客対応、採用、労務など）。それは利用目的の範囲内ですか。
• 提供元は、入力された個人データを学習に使いませんか。
• 個人データの削除や訂正を求めるときの窓口は、どこですか。
• 利用規約とプライバシーポリシーは、どこで確認できますか。