ChatGPTに学習させない設定｜Gemini・Copilotの個人版と法人版

「ChatGPTに入力した内容は、AIの学習に使われるのか」。生成AIを社内で使い始めるとき、最初に出る質問の1つだ。答えは、どのサービスの、どの契約で使っているかで変わる。同じChatGPTでも、個人版と法人版では扱いが違う。

ここでは、ChatGPTに学習させない設定の手順を示したうえで、GeminiとMicrosoft Copilotも同じ形で並べる。そのあと、設定をオフにしても残るものと、企業が個人の設定に頼らずに決めておくことを整理する。

ChatGPTに学習させない設定

ChatGPTの個人向けのプランでは、会話を学習に使うかどうかを利用者が自分で選べる。Web版での手順は次のとおりだ。

1. 画面のプロフィールのアイコンを押す
2. 「設定」を開く
3. 「データコントロール」を開く
4. 「Improve the model for everyone」（日本語の画面では「すべての人のためにモデルを改善する」）をオフにする

スマートフォンのアプリでも、「設定」から「データコントロール」に進む流れは同じだ。画面の表記はアプリの更新で変わることがあるので、最後は実際の画面で確かめてほしい。

法人向けのプランは扱いが違う。ChatGPTのTeamは最初から学習への利用がオフになっていて、利用者が操作する必要はない。Enterpriseも、利用者の入力をモデルの改善に使わない方針をとっている。

開発者が自社のシステムからChatGPTのモデルを呼び出すAPIも、既定で学習に使われない。OpenAIの開発者向けの文書には、2023年3月1日以降、APIに送られたデータは、利用者が自分から共有を選ばない限り、OpenAIのモデルの学習や改善に使われないと書かれている。

GeminiとCopilotの学習の設定

ChatGPT以外の生成AIも、個人版と法人版で扱いが分かれる。次の表は、各社の公式の説明をもとにした私の整理だ。

Gemini

Googleの個人向けのGeminiでは、「Keep Activity」という設定が学習の有無を決める。オンのとき、会話やアップロードしたファイルは利用者のアクティビティに保存され、生成AIのモデルの学習を含むGoogleのサービスの改善に使われる。オフにすると、それ以降の会話はアクティビティに加わらず、フィードバックを送らない限り学習にも使われない。

GoogleのGeminiのヘルプには、会話の一部は人の目で確認されるとも書かれている。確認された会話はアカウントとの紐づけを外したうえで、最長3年保存される。アクティビティは既定で18か月後に自動で削除され、3か月か36か月に変えることも、自動削除をしないこともできる。

仕事用のGoogle Workspaceのアカウントでは条件が変わる。Googleは、Workspaceの利用者の内容は、組織の外で人の確認を受けず、生成AIのモデルの学習にも使われないと説明している。

Microsoft Copilot

Microsoftの消費者向けのCopilotについて、Microsoftは、Bing、MSN、CopilotなどのデータをAIの学習に使うと説明している。利用者は、自分の会話を学習に使わせないよう設定でき、止めるとそれ以降の会話が学習から外れる。組織のEntra IDでサインインした利用者と、18歳未満の利用者は、もともと学習の対象外だ。

法人向けのMicrosoft Copilot（旧称Microsoft 365 Copilot）とMicrosoft Copilot Chatは、Microsoftの企業向けのデータ保護の対象になる。Microsoftの文書は、プロンプトと応答、Microsoft Graphを通して参照したデータは、基盤モデルの学習に使われないとしている。

学習をオフにしても残るもの

「学習させない」設定は、入力したデータを消す設定ではない。ここを取り違えると、設定をオフにしたから機密を入れてよい、という誤った判断につながる。

残るものは主に3つある。

1. 保存。Geminiの個人版は、学習を止めても、応答やフィードバックへの対応、安全のために会話を72時間保存する。OpenAIのAPIも、不正利用の監視のためのログを既定で最大30日保存する。保存期間を短くする仕組み（Zero Data Retention）は、OpenAIの事前の承認が要る
2. 人による確認。Geminiの個人版では、学習を止めても、安全のための確認は続くことがある
3. 履歴。会話の履歴は、学習の設定とは別に、アカウントに残る。アカウントを乗っ取られれば、過去の会話が読まれる

私の見方では、「学習に使われるか」よりも、「誰との、どんな契約のもとでデータを預けているか」のほうが、企業にとって大事な問いだ。法人版の約束は、利用規約と企業向けの契約に書かれている。個人版の設定は、利用者がいつでも変えられる。

漏れ方の全体像は生成AIの情報漏洩事例で事例ごとに整理した。2023年にSamsung Electronicsの技術者が社内のソースコードをChatGPTにアップロードした件も、学習の設定ではなく、何を入力してよいかのルールで防ぐ種類の事故だった。

企業が個人の設定に頼らずに決めること

社員に「個人版の設定をオフにしておいて」と頼むだけでは、会社としての対策にならない。設定は社員一人ひとりのアカウントにあり、会社からは確かめられないからだ。次の5つは、私が会社として決めておくべきだと考える順番だ。

1と2は、社内の利用規程に書く中身だ。条文の形は生成AIの社内利用規程の作り方に、ひな形と一緒に載せた。5の、会社が把握していないAIの利用の見つけ方と対策はシャドーAIとは？に書いた。

私の見方では、いちばん効くのは1だ。業務で使える公式の環境がないと、社員は便利な個人版を使い続ける。禁止するより、安全に使える場所を先に用意するほうが、結果として機密が個人版に流れにくい。

AIを現場に組み込み、本番で使われるところまで持っていく職種についてはFDEとは？Forward Deployed Engineerの意味と仕事内容にまとめた。社内でどのAIがどの設定で使われているかを外から確かめたい場合は、私たちのAI利用セキュリティ診断で扱っている。