Google NotebookLMにアップロードしただけでGmail・Voice・Photos全凍結 — AIツール利用のプラットフォームリスク

2026年2月、AIツール界隈に衝撃的なニュースが駆け巡りました。

アメリカの弁護士が、Googleの AI ノートツール「NotebookLM」に業務関連の文書をアップロードしただけで、Googleアカウント全体が無効化されたというのです。Gmail、Google Voice、Google Photos、連絡先、クラウドバックアップ――10年以上にわたって蓄積してきたデジタルライフが、一瞬にしてアクセス不能になりました。

この事件はRedditの r/artificial で265以上のupvoteを集め、Hacker Newsでも大きな議論を呼んでいます。「AIツールを使っただけでアカウントごとBANされるなんて、そんなことがあり得るのか？」という驚きと怒りの声が飛び交いました。

本記事では、この事件の詳細を掘り下げつつ、NotebookLMのリスクやGoogleアカウント凍結のメカニズム、そして日本企業がとるべき具体的なアクション について解説します。

何が起きたのか？ — 事件の詳細

弁護士Brian Chase氏の証言

事件の当事者は、アリゾナ大学ロースクールの客員教授であり、デジタルフォレンジクス・eDiscovery企業ArcherHallのマネージングディレクターを務めるBrian Chase氏です。

Chase氏は2026年2月16日、自身のLinkedInに次のような投稿をしました。

「2月14日（土曜日）、刑事事件の業務で法執行機関の報告書をNotebookLMにアップロードした。数秒以内に、Googleの利用規約に違反したという通知を受け取った」

ここで重要なのは、アップロードした内容です。Chase氏によると、その報告書は児童性的虐待資料（CSAM）の所持で起訴された被告人に関する法執行機関の報告書でした。ただし、アップロードしたのはテキストのみであり、「画像も動画も一切含まれていなかった」と明言しています。

法律の専門家として被告の弁護業務を行うために必要な文書を、AI分析ツールに読み込ませただけ。それだけのことです。

凍結の経緯

時系列を整理すると、こうなります。

1. 2月14日（土）：NotebookLMに法執行機関の報告書をアップロード
2. 数秒後：Google利用規約違反の通知を受信
3. 同日：Chase氏はアップロードした文書を削除
4. 2月16日（月）：朝起きると、Googleの全サービスからサインアウトされており、「アカウントが無効化された」というアラートが表示

Chase氏がGoogleに預けていたデータは膨大でした。

• Gmail：業務・個人のメール全件
• Google Voice：仕事用の電話番号そのもの
• Google Photos：写真・動画のアーカイブ
• 連絡先：ビジネス・個人の連絡先リスト
• 端末バックアップ：スマートフォンのバックアップデータ

特にGoogle Voiceの電話番号は、各種サービスの二段階認証にも紐づいていた可能性が高く、Googleアカウントの凍結は文字通り「デジタルアイデンティティの喪失」を意味します。

その後の経過 — アカウントは復旧されたが…

Chase氏の投稿がLinkedInやReddit、Hacker Newsで急速に拡散した後、2月18日（火）にGoogleはアカウントへのアクセスを復旧しました。Chase氏自身がLinkedInのコメントで「Googleがアカウントへのアクセスを復旧してくれた」と報告しています。

しかし、復旧までの約2日間、弁護士は業務に不可欠な通信手段をすべて失っていたことになります。法律事務の世界で2日間メールも電話も使えないことが何を意味するか、想像に難くないでしょう。

なぜ凍結が起きたのか？ — 技術的背景

Googleの自動コンテンツスキャン

Googleは、児童性的虐待資料（CSAM）の検出にハッシュマッチングとAIを組み合わせた自動スキャンシステムを運用しています。Google自身が公式ブログで「ハッシュマッチングとAIによるプロアクティブな検出を行い、偽陽性率は極めて低い」と説明しています。

しかし「極めて低い」はゼロではありません。そして今回のケースでは、そもそも実際のCSAMは一切含まれておらず、テキストのみだったにもかかわらず凍結が発動しました。

推測される凍結のメカニズムは以下の通りです。

1. NotebookLMにアップロードされたテキストが、Googleのコンテンツモデレーションシステムによってスキャンされる
2. テキスト内のCSAM関連キーワードや文脈が、自動検出フィルターに引っかかる
3. ToS違反として即座にフラグが立つ
4. アカウントレベルでの制裁措置（無効化）が自動的に実行される

ここで恐ろしいのは、AIツールの入力内容がアカウント全体のモデレーション判定に影響するという点です。NotebookLMはあくまでAIノートツールですが、そこにアップロードした内容がGoogleアカウント全体のToS違反と見なされ、Gmail、Voice、Photosまで巻き添えで凍結されたわけです。

過去の「偽陽性」事件

実は、Googleの自動スキャンによる冤罪は今回が初めてではありません。

2022年のMark氏のケースでは、父親が息子の皮膚の症状を医師に見せるためにスマートフォンで写真を撮影し、Gmailで送信したところ、CSAMとして誤検出されました。Googleはアカウントを即座に無効化し、Mark氏は10年以上分のメール、連絡先、写真を失いました。さらにGoogleはNCMEC（全米行方不明・被搾取児童センター）に通報し、警察の捜査まで入りました。

警察の捜査では児童虐待の事実はないと判断されましたが、GoogleはMark氏のアカウントを復旧しませんでした。電子フロンティア財団（EFF）もこのケースを取り上げ、「Googleのプライベート写真スキャンが冤罪を生んだ」と批判しています。

テキサスの父親のケースでも同様の事態が報告されており、医療目的で撮影した子どもの写真が自動フィルターに引っかかり、アカウントが凍結されています。

今回のChase氏のケースが異例なのは、画像ですらなくテキストのみの法律文書で凍結が発動した点です。AIツール経由の入力であっても、アカウントレベルの制裁が適用されることが明確になりました。

なぜこれが重要なのか — 「エコシステム一括凍結」の衝撃

1つのサービスの問題が全サービスに波及する

Googleのアカウントモデルは、1つのGoogle アカウントに対して数十のサービスが紐づく「シングルアカウント・マルチサービス」構造です。便利さの裏返しとして、1つのサービスでの違反判定が全サービスに波及する「連座リスク」が存在します。

Chase氏のケースで失われた（一時的にせよ）サービスを列挙すると：

• Gmail（メール通信の完全喪失）
• Google Voice（電話番号の喪失）
• Google Photos（写真・動画アーカイブの喪失）
• Google Drive（ドキュメント・ファイルの喪失）
• Google Contacts（連絡先の喪失）
• Google Calendar（スケジュールの喪失）
• 端末バックアップ（スマートフォンデータの喪失）
• 二段階認証（Google Voice経由の各種サービスログインの喪失）

これは個人ユーザーだけの問題ではありません。Google Workspaceを利用する企業にとっても、従業員1人のAIツール利用がアカウントレベルの制裁を引き起こすリスクがあることを意味します。

ベンダーロックインの本質的な危険性

Parallels社が2026年2月に発表した調査によると、ITリーダーの94%がベンダーロックインを懸念しているとのことです。この数字は前年からさらに上昇しており、AIの普及とともにプラットフォーム依存への不安が高まっていることがわかります。

Googleエコシステムへの依存は、以下の構造的問題を内包しています。

• 「退出コスト」が極めて高い：長年にわたって蓄積されたメール、写真、連絡先、カレンダーのデータを他のプラットフォームに移行するのは膨大な手間がかかる
• 判定基準がブラックボックス：何がToS違反に該当するのか、ユーザーには事前に知りようがない
• 異議申立てのプロセスが不透明：自動化されたシステムに対して、人間が介入するまでに時間がかかる（または永遠に介入しない）
• 代替手段がない：凍結中はGoogleサービスに一切アクセスできず、バックアップへのアクセスも不可

賛否両論 — プラットフォーム規約 vs ユーザー保護

Google（プラットフォーム）側の論理

Google側の立場を整理すると、以下のようになります。

• 児童保護は最優先事項：CSAMの拡散を防ぐことは法的義務であり、社会的責任でもある
• 自動検出は必要悪：数十億件のコンテンツを人間だけでレビューすることは不可能であり、AIベースの自動検出は不可欠
• ToS違反には厳格に対応する：2025年10月以降、Googleは児童安全ポリシーの違反を「重大な違反」と位置づけ、事前警告なしでアカウント停止措置を実施する方針を強化
• 異議申立ては可能：アカウントが誤って無効化された場合、児童安全チームがアピールを審査し、誤りが認められればアカウントを復旧する

ユーザー・専門家側の反論

一方、ユーザーや法律の専門家からは厳しい批判が寄せられています。

• 弁護士の業務を妨害するのは司法へのアクセスの問題：弁護業務に必要な文書を分析するためにAIツールを使っただけで、業務遂行が不可能になるのは深刻な問題
• テキストのみで凍結は過剰反応：CSAMの「所持」は通常、画像・動画を指す。テキストの法律文書を根拠にアカウントを凍結するのは行き過ぎ
• 「推定有罪」の自動化：自動システムが違反と判定した時点でアカウントが凍結され、ユーザーは「無実」を証明する側に回らなければならない
• 復旧プロセスの不備：2022年のMark氏のケースでは、警察が無罪と判断してもGoogleはアカウントを復旧しなかった。今回Chase氏のケースでは復旧されたが、それはSNSで話題になったからではないのか
• 通知も説明もなく全サービス停止は不当：少なくともメール・電話などの基本通信手段は維持すべきではないか

Hacker NewsやRedditでは、「Googleは検察官・裁判官・刑執行者を兼ねている」という趣旨のコメントが多数寄せられ、プラットフォームの権力の集中に対する懸念が広がっています。

NotebookLMの「検閲」問題との関連

このタイミングで注目すべきもう1つの事象があります。NotebookLMのユーザーからは、エプスタイン関連の公開文書について質問・要約を拒否するという報告も上がっています。NotebookLMは「この質問には回答できません」という定型メッセージを返すとのことです。

公文書・裁判記録のような公的に入手可能な文書の分析をAIが拒否するという事態は、AIツールのコンテンツポリシーがどこまで業務利用に影響するのかという問題を提起しています。法律、ジャーナリズム、学術研究といった分野では、センシティブな内容を扱うことが本質的に必要であり、AIツールの過度なコンテンツフィルタリングは実務上の大きな障壁になります。

日本企業への影響 — 「対岸の火事」ではない理由

Google Workspace依存の実態

日本企業のGoogle Workspace導入率は年々上昇しています。特にスタートアップやIT企業を中心に、メール（Gmail）、ファイル共有（Google Drive）、コミュニケーション（Google Meet）、カレンダー（Google Calendar）をすべてGoogleに統一している企業は少なくありません。

問題は、管理者アカウントや個人アカウントが凍結された場合の業務継続計画（BCP）を持っている企業がほとんどないということです。

日本企業が直面しうるリスクを具体的に考えてみましょう。

• 従業員がNotebookLMやGeminiに機密文書をアップロード → コンテンツフィルターがトリガーされ、アカウント凍結
• Google Workspace管理者アカウントが凍結 → 組織全体のサービスに影響が波及
• Google Driveに保存された契約書・顧客データにアクセス不能 → 業務完全停止
• 凍結がビジネスアワーに発生 → Google日本法人の対応を待つ間、事業活動が止まる

法的・コンプライアンス上の問題

日本の個人情報保護法のもとでは、顧客データの管理責任は企業にあります。Googleアカウントの凍結によって顧客データにアクセスできなくなった場合、データ管理義務の不履行を問われる可能性があります。

また、2024年の改正電子帳簿保存法により、電子取引データの保存義務が強化されています。Gmail上の請求書や契約書が突然アクセス不能になった場合、法令順守の観点からも問題が生じます。

AIツール導入ガイドラインの必要性

今回の事件は、企業のAIツール利用ポリシーの策定が急務であることを示しています。従業員がどのAIツールに何をアップロードしてよいのか、明確なガイドラインがなければ、善意の業務利用が予期せぬアカウント凍結を引き起こすリスクがあります。

生成AIの企業導入を検討している方は、こうしたリスクを含めた包括的な導入戦略を立てることをおすすめします。弊社でもAI導入に伴うリスク管理についてAIの導入戦略に関する解説記事で詳しく取り上げていますので、参考にしてみてください。

企業がとるべき5つのアクション

この事件を他山の石として、今すぐ取り組むべきアクションを5つ提案します。

1. 定期的なデータバックアップの実施

Google Takeoutを使った定期エクスポートを全従業員に義務づけましょう。Google Takeoutでは、Gmail、Google Drive、Google Photos、連絡先、カレンダーなど、Googleアカウント内のほぼすべてのデータをエクスポートできます。

ただし注意点があります。アカウントが凍結された後ではTakeoutにアクセスできない可能性があるため、凍結が起きる前の定期バックアップが不可欠です。月次でのバックアップをスケジュールし、ローカルストレージまたは別のクラウドストレージに保管することを推奨します。

企業のGoogle Workspace管理者であれば、Google Vaultやサードパーティのバックアップツール（Backupify、Spanning Backupなど）を導入し、組織レベルでのデータ保全体制を構築しましょう。

2. マルチクラウド戦略の採用

すべてをGoogleに集約するのではなく、重要なサービスを複数のプロバイダーに分散させましょう。

• メール：Gmail + 独自ドメインのメールサーバー（または Microsoft 365 をバックアップとして併用）
• ファイルストレージ：Google Drive + Dropbox Business or Box
• 電話：Google Voice ではなく、独立したVoIPサービス（Zoom Phone、Microsoft Teamsなど）
• 写真・動画：Google Photos + Amazon Photos or iCloud
• 認証：Google認証に依存せず、独立した認証基盤（Okta、Auth0など）を利用

94%のITリーダーがベンダーロックインを懸念しているという調査結果が示す通り、単一プロバイダーへの過度な依存は経営リスクです。

3. AIツール利用ポリシーの策定

従業員がAIツールに何をアップロードしてよいか、明確なポリシーを定めましょう。特に以下の点を明記すべきです。

• センシティブなコンテンツの取り扱い：犯罪に関する文書、医療記録、法的文書などをAIツールにアップロードする際のルール
• 利用が承認されたAIツールのリスト：会社として利用を許可するツールと禁止するツールの明確化
• 個人アカウント vs 業務アカウント：業務データを個人のGoogleアカウントで処理することの禁止
• インシデント発生時の報告ルール：ToS違反の通知を受けた場合の対応手順

4. 緊急時の業務継続計画（BCP）の整備

「もしGoogleアカウントが明日凍結されたら？」というシナリオを想定した業務継続計画を立てておきましょう。

• 緊急連絡網：Google以外の連絡手段（Slack、社内メッセンジャー、個人携帯の電話番号リスト）
• 代替メールアドレス：Gmail以外のメールアドレスを事前に取引先・顧客に通知
• Google Workspace管理者の冗長化：管理者アカウントを複数用意し、1つが凍結されても組織運営を継続できる体制
• データ復旧手順書：バックアップからの復旧手順を文書化し、定期的に訓練

5. Google Workspace管理者設定の見直し

Google Workspace管理者は、以下の設定を確認・最適化しましょう。

• NotebookLMの利用制御：Google Workspace管理コンソールから、NotebookLMのオン・オフを設定可能。業務上のリスクを考慮して、必要に応じて無効化を検討
• DLP（Data Loss Prevention）ポリシーの設定：Gmail、Drive、Chatで機密情報の外部共有を検知・ブロックする設定を有効化
• Google Vaultの有効化：訴訟ホールド、データ保持ポリシー、監査ログの管理
• アラート設定：アカウントに異常が検出された場合の管理者通知を有効化

まとめ — AIツールの「便利さ」の裏側にあるリスク

今回のNotebookLMによるGoogleアカウント凍結事件は、AIツールの利便性と、プラットフォーム依存のリスクという現代のテクノロジー利用における根本的なジレンマを浮き彫りにしました。

改めて、この事件から得られる教訓を整理します。

1. AIツールへの入力は、プラットフォーム全体のToS判定に影響する — NotebookLMに入力したテキストが、Gmail・Voice・Photosの凍結につながった
2. 自動化されたコンテンツモデレーションは万能ではない — テキストのみの法律文書が、画像を含まないにもかかわらずCSAMとして誤検出された
3. シングルポイント・オブ・フェイリャーを作らない — すべてをGoogleに集約することは、利便性と引き換えに壊滅的なリスクを受け入れること
4. 復旧はSNSでの炎上頼み？ — Chase氏のアカウントが復旧されたのは、LinkedInやRedditで大きな話題になった後。一般ユーザーが同じ結果を得られる保証はない
5. 今すぐバックアップを取れ — 凍結は予告なく起きる。バックアップは凍結前にしか取れない

AIツールは私たちの生産性を劇的に向上させてくれます。しかし、そのツールがどのプラットフォーム上で動いているのか、そしてそのプラットフォームが私たちのデジタルライフにどれだけの権限を持っているのかを、常に意識しておく必要があります。

テクノロジーを使いこなすということは、そのリスクも理解した上で、適切な備えをしておくこと。今回の事件が、あなたの組織のデータ管理体制を見直すきっかけになれば幸いです。

参考・出典

1. Lawyer says Google shut down his Gmail, Voice and Photos after NotebookLM upload – Discrepancy Report（参照日: 2026-02-23）
2. Hacker News Discussion: Lawyer says Google shut down his Gmail, Voice and Photos after NotebookLM upload（参照日: 2026-02-23）
3. Google’s Scans of Private Photos Led to False Accusations of Child Abuse – Electronic Frontier Foundation（参照日: 2026-02-23）
4. How we detect, remove and report child sexual abuse material – Google Blog（参照日: 2026-02-23）
5. Google Terms of Service（参照日: 2026-02-23）
6. Turn NotebookLM on or off for users – Google Workspace Admin Help（参照日: 2026-02-23）
7. 94% of IT Leaders Fear Vendor Lock-In – Parallels Survey (2026)（参照日: 2026-02-23）
8. NYT reports: Google offers no recourse for mistakenly blocked accounts – Nextcloud Blog（参照日: 2026-02-23）

生成AIの研修・導入支援について詳しくは サービス紹介ページ をご覧ください。

著者プロフィール