社員が生成AIに顧客の名前やメールの文面を貼り付けている。止めるべきか、条件付きで認めるべきか。この判断には、ツールの設定と法律の両方が関わる。
ここでは、生成AIに個人情報を入力するときに確かめることを、個人情報保護委員会の注意喚起と個人情報保護法の条文から整理し、社内で決める線引きを表にする。法的な結論を出す記事ではない。何を確かめればよいかと、確認先を示す。生成AIの情報漏洩の事例は生成AIの情報漏洩事例に、学習をオフにする設定は生成AIに学習させない設定にまとめた。
個人情報保護委員会の注意喚起
個人情報保護委員会は、2023年6月2日に「生成AIサービスの利用に関する注意喚起等」を公表した。個人情報取扱事業者に向けた注意は2つある。
1つ目は、利用目的の確認だ。個人情報を含むプロンプトを入力する場合は、特定された利用目的を達成するために必要な範囲内であることを十分に確認すること、としている。
2つ目は、学習への利用の確認だ。あらかじめ本人の同意を得ずに個人データを含むプロンプトを入力し、その個人データが応答結果の出力以外の目的で取り扱われる場合、個人情報保護法の規定に違反することとなる可能性がある、と書いている。そのため、提供元が個人データを機械学習に利用しないこと等を十分に確認するよう求めている。
一般の利用者向けには、入力した個人情報が機械学習に利用され、正確又は不正確な内容で出力されるリスクがあると注意し、利用規約やプライバシーポリシーを十分に確認するよう求めている。
同じ日に委員会は、OpenAIに対しても注意喚起を行った。要配慮個人情報を本人の同意なく取得しないこと、利用者が機械学習に利用されないことを選んで入力した要配慮個人情報を正当な理由なく取り扱わないこと、利用目的を日本語で通知・公表することなどだ。
関係する個人情報保護法の条文
注意喚起の背景にある条文を、生成AIへの入力に関係する順に並べる。条文の番号と文言は、e-Govで公開されている現行の条文による。
| 条文 | 中身 | 生成AIへの入力で確かめること |
|---|---|---|
| 第17条 | 利用目的をできる限り特定する | 入力する個人情報の利用目的は何か |
| 第18条 | 本人の同意なく、利用目的の達成に必要な範囲を超えて取り扱わない | 生成AIで処理することが、その目的の範囲内か |
| 第23条 | 個人データの漏えい等を防ぐ安全管理措置 | 誰が、どのサービスに、何を入力できるか |
| 第25条 | 取扱いを委託する場合の委託先の監督 | 提供元が個人データを取り扱う場合、委託先として監督できるか |
| 第27条 | 本人の同意なく個人データを第三者に提供しない（委託に伴う提供などは例外） | 入力が第三者提供に当たらないか |
| 第28条 | 外国にある第三者への提供には、原則として本人の同意が要る | 提供元が外国の事業者のとき、どう扱われるか |
要配慮個人情報は第2条第3項で定義されている。本人の人種、信条、社会的身分、病歴、犯罪の経歴、犯罪により害を被った事実などが含まれる個人情報で、取り扱いに特に配慮を要するものだ。
提供元がデータを取り扱うかどうか
生成AIへの入力が第三者提供や委託に当たるかを考えるときに参考になるのが、クラウドサービスについての委員会の考え方だ。
個人情報保護委員会のQ&A（Q7-53）は、クラウドサービスの利用が第三者提供や委託に当たるかどうかは、保存している電子データに個人データが含まれているかどうかではなく、提供する事業者が個人データを取り扱うこととなっているのかどうかが判断の基準になる、としている。取り扱わないこととなっている場合とは、契約条項で取り扱わない旨が定められ、適切にアクセス制御を行っている場合等が考えられる、とも書いている。同じQ&A（Q7-54）は、その場合でも、利用する事業者は自ら適切な安全管理措置を講じる必要があるとしている。外国のサーバについても、Q&A（Q12-4）が同じ考え方を示している。
ただし、このQ&Aはクラウドサービス一般についての記述で、生成AIについて書かれたものではない。生成AIは入力を処理して応答を返すので、提供元が入力をどう取り扱うかは、サービスごとの契約と規約で確かめる必要がある。私の見方では、ここが生成AIの判断でいちばん手間のかかるところで、法務と一緒に確認するのがよい。
確かめる材料として、提供元の公式の記述は次のようになっている。OpenAIの開発者向け文書は、2023年3月1日以降、APIに送られたデータはOpenAIのモデルの学習や改善に使わない（明示的に共有を選んだ場合を除く）と書いている。同じ文書は、不正利用の監視のログを原則として最長30日保持するとも書いている。法人向けのChatGPT Enterpriseについては、既定で業務データを学習に使わないと書いている。学習に使わないことと、提供元がデータを一切保持しないことは別だ。
社内で決める線引き
注意喚起と条文を踏まえて、社内で生成AIに入力してよい情報を区分した。表は私の整理で、法的な判断の代わりにはならない。
| 区分 | 例 | 入力の扱い | 確かめること |
|---|---|---|---|
| 個人情報を含まない | 公開済みの資料、一般的な文章の作成 | 会社が認めたサービスで可 | 社外秘でないか |
| 仮名にした情報 | 名前や連絡先を「顧客A」などに置き換えた問い合わせの文面 | 会社が認めたサービスで可 | 置き換えの漏れ。文脈から本人が分からないか |
| 個人情報を含む | 顧客の名前とやり取り、社員の評価の下書き | 法人契約で、学習に使われず、利用目的の範囲内と確認できた用途だけ | 利用目的、契約と規約、保存期間、入力できる人 |
| 要配慮個人情報 | 病歴、健康診断の結果、犯罪の経歴 | 原則として入力しない | 例外を認めるなら法務の確認を経る |
| 個人用のアカウント | 社員が個人で契約した生成AI | 個人情報は入力しない | 会社が把握していない利用がないか |
運用で大事なのは、区分を社員が迷わず使えることだ。私の見方では、規程に区分を書くだけでなく、入力の前に名前や連絡先を自動で置き換える仕組みや、会社が認めたサービスの一覧を用意したほうが守られる。規程の書き方は生成AIの社内利用規程の作り方にまとめた。
これから変わること
個人情報保護法は改正される。2026年7月17日に「個人情報の保護に関する法律等の一部を改正する法律」が公布された。委員会の概要資料は、施行期日を原則として公布の日から起算して2年を超えない範囲内としている。概要資料には、統計情報等の作成にのみ利用される場合に、個人データ等の第三者提供と、公開されている要配慮個人情報の取得について本人の同意を不要とする内容があり、統計作成等であると整理できるAI開発等を含むと注記されている。これはAIの開発に関する改正で、社員が生成AIに入力することについての規定ではない。
注意喚起の文書自体も、今後、追加の注意喚起等を実施する可能性もある、と書いている。線引きの表は一度作って終わりではなく、委員会の発表と改正の施行に合わせて見直す。
業務の現場に入って、AIの使い方とルールを一緒に作る職種についてはFDEとは？Forward Deployed Engineerの意味と仕事内容に書いた。社内でどの生成AIに、どんな情報が入力されているかを外から確かめたい場合は、私たちのAI利用セキュリティ診断で扱っている。