ChatGPTの危険性｜企業で起きるリスク7つと対策【2026年9月】

「チャットGPT（ChatGPT）は危険なのか」への答えを、2026年9月26日時点で先に言い切ります。ChatGPTというツール自体が危険なのではなく、企業で事故になる経路は「情報漏洩・学習利用・ハルシネーション・著作権・シャドーAI・アカウント乗っ取り・規約違反」の7つに特定でき、その大半は設定と社内ルールで塞げます。危険かどうかは、使い方で決まるんです。

結論：いちばん見落とされている事実は、無料版・Plus・Proなどの個人向けプランでは「入力内容をモデルの学習に使う設定」が既定でオンになっていること。ここを知らないまま従業員に使わせている状態が、企業リスクの出発点です。

この記事の要点

• 個人向けプランは既定で入力がモデル改善（学習）に使われうる。一方、Business・Enterprise・Edu・APIは既定で学習に使われないとOpenAIが明記している
• 実際に公表された事故は「サービス側の不具合」「従業員の入力」「マルウェアによるアカウント窃取」の3系統。いずれも一次情報が公開されており、対策の型が読み取れる
• 個人情報保護委員会は2023年6月2日に、事業者が学習利用の有無を確認せず個人データを入力すると個人情報保護法違反になる可能性があると注意喚起している

対象読者：ChatGPTの利用を解禁すべきか・制限すべきか判断を迫られている中小企業の経営者、情報システム・総務・法務の担当者。

読了後にできること：7つのリスクを一覧表で説明でき、「設定・プラン・社内ルール」の3層で今日から対策に着手できます。

月曜の朝、営業会議が終わった直後の風景を思い浮かべてください。若手社員が自分のスマホでChatGPTを開き、顧客名がそのまま入った商談メモを貼り付けて「議事録にまとめて」と打っている。隣の席では別のメンバーが、生成された市場データを数字の裏取りなしで提案書にコピーしている。この2つの何気ない操作の中に、実は企業がChatGPTで直面する危険性のほとんどが詰まっているんです。

企業研修の質疑で必ずと言っていいほど出るのが、「入力した内容って、AIの学習に使われるんですか？」という質問です。答えは「プランと設定次第」なのですが、正直に言うと、この答えを正確に説明できる管理職の方はまだ少数派だと感じています。

一方で、「危険らしいから全面禁止」に振り切った会社が、その後どうなるかも研修現場ではよく見てきました。現場は個人アカウントでこっそり使い続け、会社の目が届かない「シャドーAI」状態になる。禁止は安全策に見えて、実はいちばん統制が効かない状態を生みやすいんです。

だからこそ必要なのは、恐怖でも楽観でもなく「どこで事故が起きるのかの正確な地図」です。以下、2026年9月26日時点のOpenAI公式ポリシー・個人情報保護委員会の公表資料・一次情報のある公表事例だけを根拠に、7つの危険性と対策を整理していきます。

ChatGPTの危険性7つ｜事故が起きる場所の全体地図

企業で問題になるリスクは、「入力側」「出力側」「運用側」の3つの経路に分けると急に見通しがよくなります。まず全体像を一覧にします。

ポイントは、7つのどれも「ChatGPTを使うと必ず起きる」ものではなく、特定の条件がそろったときに起きることです。条件を潰せばリスクは大きく下がります。順に見ていきます。

入力側の危険性｜情報漏洩・学習利用・シャドーAI

危険性1：情報漏洩 — 入力した瞬間に「社外のサーバー」にある

大前提として、ChatGPTに入力した内容はOpenAIのサーバーに送信されます。つまり入力した瞬間、その情報は自社の管理外にあるんです。ここで実際に公表された事故を2つ押さえておきましょう。

1つ目はサービス側の不具合です。OpenAIは2023年3月20日に発生した障害について公式ブログで詳細を公表しています。オープンソースライブラリ（redis-py）のバグにより、他のユーザーのチャット履歴のタイトルが見えてしまう状態が発生し、さらに特定の9時間に利用していたChatGPT Plus加入者の1.2%について、氏名・請求先住所・クレジットカードの種類・有効期限・下4桁などの支払い関連情報が別のユーザーに見えた可能性があったと報告されました（March 20 ChatGPT outage: Here’s what happened・OpenAI公式）。カード番号全体は露出していませんが、「自分側が完璧でも事故は起こりうる」ことを示した事例です。

2つ目は従業員の入力による事故です。Bloombergは2023年5月2日、サムスン電子がエンジニアによる社内ソースコードのChatGPTへのアップロードを確認したことを受け、社給端末での生成AI利用を一時禁止する社内通達を出したと報じました（Samsung Bans Staff’s AI Use After Spotting ChatGPT Data Leak・Bloomberg）。外部サーバーに渡ったデータは回収も削除依頼も難しい、というのが同社が挙げた懸念でした。ハッキングではなく、日常業務の中の「ちょっと便利だから」で起きたことが重要なポイントなんです。

危険性2：学習利用 — 個人向けプランは既定で「オン」

情報漏洩と混同されがちですが、別枠で理解すべきなのが学習利用です。OpenAIの公式ポリシーでは、データの扱いがプランによってはっきり分かれています（How your data is used to improve model performance・OpenAI公式、参照日2026-09-26）。

• 個人向けプラン（無料版・Plus・Proなど）：設定「すべての人のためにモデルを改善する（Improve the model for everyone）」が既定でオン。オンの間は入力内容がモデル改善に使われうる
• ChatGPT Business・Enterprise・Edu・API：入力と出力を既定でモデルの学習に使わないとOpenAIが明記
• 一時チャット（Temporary Chat）：学習には使われないが、安全性確認のため最大30日間はOpenAI側に保持されうる（Temporary chat FAQ・OpenAIヘルプセンター）

個人向けプランでもオプトアウトは可能で、設定の「データコントロール」から該当トグルをオフにすれば、それ以降の会話は学習に使われません（Data controls FAQ・OpenAIヘルプセンター）。研修で受講者の画面を見せてもらうと、この設定がオンのままの方が本当に多い。「オフにできることを知らなかった」が大半なんです。

そしてここには法律上の論点もあります。個人情報保護委員会は2023年6月2日の注意喚起で、個人情報取扱事業者があらかじめ本人の同意を得ずに個人データを含むプロンプトを入力し、そのデータが応答結果の出力以外の目的（機械学習など）で取り扱われる場合、個人情報保護法違反となる可能性があると明示しました。だからこそ「生成AIサービス提供者が当該データを機械学習に利用しないこと等を十分に確認すること」を求めています（生成AIサービスの利用に関する注意喚起等・個人情報保護委員会）。同委員会はOpenAIに対しても、要配慮個人情報の取得や利用目的の通知等について個別に注意喚起を行っています。実務での落とし込みは生成AIと個人情報保護法｜入力の注意点とチェック50で詳しく整理しています。

危険性5：シャドーAI — 「禁止」がいちばん統制を失う

順番を先取りしてここで扱いますが、入力側のリスクを最終的に増幅させるのがシャドーAI、つまり会社が把握していない従業員の個人アカウント利用です。顧問先との会話でよくあるのが、「うちは禁止しているから大丈夫」という認識と、現場では個人スマホで普通に使われている実態のギャップなんです。

禁止すると何が起きるか。利用が消えるのではなく、会社の見えない場所に移動するだけです。個人アカウントは前述のとおり既定で学習利用がオンで、履歴も会社から管理できません。つまり禁止ポリシーは、いちばんリスクの高い使われ方を放置する結果になりがちです。実態データと対策の設計はシャドーAIとは？従業員の8割が無断利用する実態と5つの対策にまとめています。

出力側の危険性｜ハルシネーションと著作権

危険性3：ハルシネーション — 「自信満々の間違い」は仕様と考える

ChatGPTの回答は確率的な相関関係に基づいて生成されるため、もっともらしい誤情報（ハルシネーション）が混ざります。これはOpenAI自身が画面上に「ChatGPTは間違えることがあります。重要な情報は確認してください」という趣旨の注意を常時表示しているとおり、現時点ではなくならない前提で運用を設計すべき性質です。個人情報保護委員会も一般利用者向けの留意点として、応答結果には不正確な内容の個人情報が含まれるリスクがあることを明記しています。

企業で事故になるのは、生成された数字・判例・製品仕様・統計が検証なしで社外資料に載ったときです。対策はシンプルで、「出典を要求する」「出典が確認できない情報は使わない」「社外に出る文書は人間が最終確認する」の3点をルール化すること。後半で紹介するプロンプトに事故防止の一行を組み込むと、運用がぐっと楽になります。

危険性4：著作権 — 世界最大級の訴訟が今も係争中

著作権は「学習段階」と「生成・利用段階」の2つの論点があります。学習段階については、The New York Timesが2023年12月にOpenAIとMicrosoftを提訴した訴訟が象徴的で、2026年9月にも当事者の主張が裁判所に出そろい審理が続いています。2026年9月26日時点で確定判決は出ておらず、AIの学習がフェアユースにあたるかの司法判断は係争中です（Historic NYT v. OpenAI copyright battle heats up・Axios、2026年9月8日）。

実務で先に効いてくるのは生成・利用段階のほうです。OpenAIの利用規約では、法の許す範囲で出力に関する権利・利益はユーザーに譲渡されると定められていますが（Terms of Use・OpenAI）、権利をもらえることと、その出力が第三者の著作権を侵害していないことは別問題なんです。既存の著作物と似た表現が出力される可能性はゼロにできないため、社外公開するコンテンツは類似チェックと人間の確認を挟む運用が必要です。国内の規制動向を含めた整理は生成AIの著作権リスク7つ｜中小企業の規制対応ガイドをどうぞ。

運用側の危険性｜アカウント乗っ取りと規約違反

危険性6：アカウント乗っ取り — 履歴ごと盗まれる

見落とされがちですが、実害の報告が具体的なのがこれです。セキュリティ企業Group-IBは2023年6月20日、情報窃取型マルウェア（インフォスティーラー）に感染した端末から保存済みChatGPT認証情報が盗まれ、10万件以上（101,134件）のアカウント情報がダークウェブの闇市場で取引されていたことを公表しました。地域別ではアジア太平洋が40.5%と最多です（Group-IB: 10万件超のChatGPTアカウント情報がダークウェブ市場で発見（英文プレスリリース）・Group-IB公式）。

怖いのはパスワードそのものより、チャット履歴です。既定ではやり取りが履歴に残るため、乗っ取られたアカウントの履歴には、その従業員が過去に入力した業務情報がそのまま並んでいます。対策は通常のID管理と同じで、多要素認証（MFA）の有効化、パスワードの使い回し禁止、法人プランでのSSO統合、そして端末のマルウェア対策。特別な魔法は要りませんが、「ChatGPTのアカウントも守るべき業務アカウントである」という認識が抜けている会社が多いんです。

危険性7：規約違反 — 2025年10月の改定を知らないまま使っていないか

利用規約・利用ポリシーの確認は、個人情報保護委員会も一般利用者向け留意点として挙げている基本動作です。企業として押さえるべき点を3つに絞ります（参照日2026-09-26）。

• 年齢要件：利用は13歳以上、18歳未満は保護者の同意が必要（Terms of Use）。従業員家族への貸与や店頭での顧客操作などで意外と踏みやすい線です
• 専門的助言の制限：2025年10月29日発効の利用ポリシーで、資格を持つ専門家の適切な関与なしに、法的・医療的助言など免許を要する個別アドバイスを提供する用途への制限が明確化されました（Usage policies・OpenAI）。士業・医療・金融まわりの業務フローに組み込んでいる企業は要チェックです
• 禁止用途：他者の権利侵害、詐欺的行為などの禁止事項は社内ガイドラインにそのまま転記しておくと、従業員教育の手間が減ります

対策の実務｜「設定・プラン・社内ルール」の3層で塞ぐ

7つのリスクを個別に潰そうとすると大変ですが、実務では3層に集約できます。

第1層：設定（今日できる）。個人アカウントの業務利用を続けるなら、最低限「設定 → データコントロール → すべての人のためにモデルを改善する」をオフにする。機密性の高い単発の相談は一時チャットを使う。MFAを有効化する。ここまでで学習利用とアカウント系のリスクがまず下がります。

第2層：プラン（今月の意思決定）。業務利用を本格化するなら、既定で学習に使われないBusiness・Enterpriseへの移行が本筋です。管理者によるメンバー管理・SSOが使えるため、シャドーAI対策としても効きます。選定と展開の手順はChatGPT法人導入の手順｜プラン選定から社内展開・定着まで5ステップに分けて書きました。

第3層：社内ルール（今四半期の整備）。「入力してよい情報・ダメな情報」「出力の確認手順」「使ってよいアカウントの種類」を文書化し、教育とセットで回します。ゼロから作る必要はなく、AI利用ガイドライン策定7ステップ｜社内ルール雛形付きの雛形から始めて、条文の設計は生成AI利用ガイドライン10項目と運用・改定の設計術で詰めるのが近道です。

【要注意】企業でありがちな失敗パターン4つ

研修や顧問の現場で繰り返し見かける、典型的なつまずき方を先回りで共有します。

失敗1：全面禁止で満足してしまう
❌ 「リスクがあるので当社は禁止」で議論を終える
⭕ 統制された公式ルート（法人プラン＋ルール）を用意し、個人アカウントの業務利用だけを禁じる。禁止のみの会社ほどシャドーAI化が進みます

失敗2：「有料だから安全」という思い込み
❌ Plusは有料だから学習に使われない、と誤解して機密を入力する
⭕ 学習利用の既定は「個人向けか法人向けか」で決まる。PlusもProも個人向けで既定オンです。プラン名ではなく公式のデータ利用ポリシーで確認する

失敗3：出力をそのまま社外に出す
❌ 生成された統計や事例を裏取りなしで提案書・Webに掲載
⭕ 「出典が確認できない情報は使わない」を明文化し、社外に出る文書は人間の最終確認を必須にする

失敗4：アカウントを「ただのWebサービス」扱いする
❌ パスワード使い回し・MFAなし・退職者アカウント放置
⭕ 業務システムと同じID管理基準を適用する。履歴に業務情報が蓄積される分、むしろ一般のWebサービスより保護優先度は高めです

そのまま使える社内向けプロンプト5つ

対策をルール文書で終わらせず、日々の操作に埋め込むためのプロンプト集です。プロンプト1と2は、学習に使われない環境（学習設定オフまたは法人プラン）で使う前提です。各プロンプト末尾の一文は、私が研修で「事故防止の一行」と呼んで必ず入れてもらっている保険です。

1. 入力前の機密チェック（貼る前に、貼ってよい形か確認する）

これから外部AIに入力する予定の文章を貼ります。個人情報（氏名・住所・連絡先）、
顧客名・取引先名、未公開の数値・計画、認証情報にあたる箇所を項目別に指摘し、
それぞれ置換案を提示してください。
判断に迷う箇所は「要確認」と明記してください。

2. 固有名詞のマスキング（社外サービスに出せる形へ変換する）

以下の文章中の企業名をA社・B社、人名を甲氏・乙氏のように置換し、
金額・日付は桁感を保ったダミー値に変えてください。
置換の対応表を最後にまとめてください。
仮定した点は必ず「仮定」と明記してください。

3. 出典つき回答の強制（ハルシネーション対策の基本形）

この質問への回答には、根拠となる一次情報（公式サイト・公的機関・原典）の
名称とURLを必ず添えてください。
出典が確認できない内容は「出典なし」と明記し、推測と事実を分けて書いてください。
数字と固有名詞には、根拠（出典または計算式）を添えてください。

4. 公開前の著作権セルフチェック（最終判断は人間・必要なら専門家へ）

以下の生成文について、特定の既存著作物の表現をそのまま再現している
可能性がある固有の言い回し・構成・キャッチコピーを指摘してください。
あわせて、公開前に人間が確認すべき点をリスト化してください。
判断できない場合は「専門家の確認が必要」と明記してください。

5. 社内周知文の下書き（ルールを現場の言葉に翻訳する）

あなたは情報システム部門の担当者です。全社員向けに400字程度の
社内アナウンスを作成してください。伝える内容は次の3点です。
(1) 個人情報・機密情報・顧客名をAIに入力しない
(2) 個人アカウントでは「すべての人のためにモデルを改善する」設定をオフにする
(3) AIの回答は事実確認をしてから社外に出す
不足している情報があれば、最初に質問してから作業を開始してください。

よくある質問

Q1. チャットGPTの危険性を回避するには、まず何をすればいいですか？

個人アカウントなら「設定 → データコントロール → すべての人のためにモデルを改善する」をオフにし、多要素認証を有効化する。この2つが最短の初手です。会社としては、入力禁止情報の一覧を1枚作って周知するところから始めてください。

Q2. 登録するだけでも危険はありますか？

登録自体の危険は、メールアドレス等の登録情報がアカウント情報として保持されることと、パスワード管理の問題に集約されます。実際の被害はマルウェア感染による認証情報の窃取が中心なので、使い回しのないパスワードとMFAを設定すれば、登録そのものを過度に恐れる必要はありません。偽サイト経由の登録だけは避けてください。

Q3. Googleアカウントで続行（連携ログイン）するのは危険ですか？

連携ログイン自体はパスワードを新規に増やさない分、管理上はむしろ安全側の選択です。ただしGoogleアカウントが乗っ取られるとChatGPTにも入られるため、要になるGoogleアカウント側のMFAが前提条件になります。

Q4. 写真や画像をアップロードするのは危険ですか？

テキストと同じルールで考えてください。個人向けプランで学習設定がオンなら、画像もモデル改善に使われうる対象です。顔写真・社員証・ホワイトボード・書類の写り込みは、テキストの機密情報と同等に扱うのが安全です。学習設定オフか法人プランなら、社内ルールの範囲で実務利用できます。

Q5. 無料版の危険性は有料版と違いますか？

「無料だから危険・有料だから安全」ではありません。学習利用の既定は無料版もPlus・Proも同じくオンで、既定オフなのはBusiness・Enterprise・Edu・APIです。無料版特有の注意点は、共有端末での使い回しなど運用面に出やすい程度で、本質はプランの区分（個人向けか法人向けか）で決まります。

Q6. 実際に情報漏洩は起きたことがあるんですか？

公表事例があります。2023年3月20日のOpenAIの障害では他ユーザーのチャット履歴タイトルと一部の支払い関連情報が見えうる状態が発生し、2023年にはサムスン電子が従業員によるソースコード入力を受けて社内利用を制限、同年にはGroup-IBが10万件以上のアカウント情報のダークウェブ流通を報告しています。いずれも本文に一次情報へのリンクを載せています。

Q7. LINEなどで使えるChatGPT風サービスも同じ扱いでいいですか？

別物として扱ってください。OpenAI公式以外の連携・派生サービスは、データの保存先も学習利用の方針も運営元次第です。業務で使うなら、運営会社とプライバシーポリシーを確認できるサービスに限定し、確認できないものは私用でも業務情報を入れないルールにしておくのが安全です。

Q8. 結局、会社としてChatGPTは禁止すべきですか？

統制なしの解禁と全面禁止は、どちらもおすすめしません。禁止はシャドーAIを生み、無統制は入力事故を生みます。推奨は「法人プランまたは学習設定オフを条件に公式解禁し、入力ルールと出力確認をセットで課す」統制付き解禁です。中小企業でも第1層の設定変更だけなら今日から実行できます。

最後に確認すべきこと

ChatGPTの危険性は「使うか使わないか」の問題ではなく、「どの設定で、どのプランで、どのルールのもとで使うか」の問題です。締めくくりに、着手順だけ確認しておきましょう。

1. 今日：自分と主要メンバーのアカウントで「すべての人のためにモデルを改善する」の状態とMFAを確認する。オンのまま業務情報を入れていた場合は、この記事の3層対策を上司・情シスと共有する
2. 今週中：入力禁止情報の一覧（個人情報・顧客名・未公開数値・認証情報）を1枚にまとめ、現場に周知する。社内ルール雛形を使えば作業は大幅に短縮できます
3. 今月中：利用実態（誰が・何のアカウントで・何に使っているか）を棚卸しし、法人プラン移行とガイドライン整備の要否を経営判断に載せる

正直、ここまでやっている中小企業はまだ少数です。だからこそ、先にやった会社から「安心して使い倒せる」状態になり、生産性の差になって返ってきます。危険性の知識は、使わない理由ではなく、使いこなすための装備なんです。

参考・出典

• 生成AIサービスの利用に関する注意喚起等について — 個人情報保護委員会（2023年6月2日、参照日2026-09-26）
• 生成AIサービスの利用に関する注意喚起等（PDF・別添1） — 個人情報保護委員会（参照日2026-09-26）
• How your data is used to improve model performance — OpenAI（参照日2026-09-26）
• Data controls in ChatGPT（FAQ） — OpenAIヘルプセンター（参照日2026-09-26）
• Temporary chat in ChatGPT（FAQ） — OpenAIヘルプセンター（参照日2026-09-26）
• March 20 ChatGPT outage: Here’s what happened — OpenAI（2023年3月24日）
• Samsung Bans Staff’s AI Use After Spotting ChatGPT Data Leak — Bloomberg（2023年5月2日）
• Group-IB: 10万件超のChatGPTアカウント情報がダークウェブ市場で発見（英文プレスリリース） — Group-IB（2023年6月20日）
• Usage policies — OpenAI（2025年10月29日発効、参照日2026-09-26）
• Terms of Use — OpenAI（参照日2026-09-26）
• Historic NYT v. OpenAI copyright battle heats up — Axios（2026年9月8日）

著者：佐藤傑（さとう・すぐる）
株式会社Uravation代表取締役。X（@SuguruKun_ai）フォロワー約10万人。
100社以上の企業向けAI研修・導入支援。著書『AIエージェント仕事術』『Claude仕事術』（SBクリエイティブ・シリーズ累計約6万部）。
SBクリエイティブ「ビジネス+IT」ほかで生成AI連載を執筆（NewsPicks最大1,125ピックス）。

ご質問・ご相談は お問い合わせフォーム からお気軽にどうぞ。