AI NEWS / CASE STUDIES
「政府が禁止したAI」は、
誰が使えなくなった？
DeepSeekだけでなく、ChatGPT、Claude、Grok、Replikaにも政府や規制当局が動いた例があります。実際に起きた出来事と措置の範囲を、元資料へのリンク付きで見ていきましょう。
5つの事例を比較 ｜ 2026年9月25日確認「禁止された」と聞くと、使っただけで問題になるように感じるかもしれません。しかし、政府職員の業務利用だけを止めた例と、その国の一般利用にも影響した例があります。
ニュースを正確に読むために、まず対象の違いを比べ、その後に各ツールで起きたことを確認します。
まず、誰に対する制限だった？
同じ「AIの禁止」でも、当局が止めたものは異なります。これを知っておくと、個別の事例が読みやすくなります。
| AI | 当時の措置 | 一般の利用者への影響 |
|---|---|---|
 オーストラリアなどで公的機関の端末・業務利用を制限 | その措置は一般人を一律に禁止するものではない | |
 ChatGPT |  イタリアで個人データの処理を一時的に制限 | 現地で一時利用できなくなり、後に再開 |
 Claude |  米国で連邦機関の利用停止を指示。一部の措置は後に差止め | 一般の利用者は対象外。別の指定は係争中 |
 Grok |  インドネシアでサービスへのアクセスを一時停止 | 一般の利用者にも影響し、後に条件付きで再開 |
 Replika | イタリアで利用者データの処理を一時的に制限 | 現地のサービス提供に影響。2023年当時の措置 |
※国・地域と時期を限定した事例です。「世界中で永久に使えない」という意味ではありません。
DeepSeek｜政府の情報が外に出る懸念
DeepSeekは中国企業が提供する生成AIです。一般の人の利用そのものより、政府の端末や業務で扱う情報が問題になりました。
会話を含むデータベースが公開状態に
セキュリティ企業Wizは、DeepSeekに関連するデータベースが認証なしで外部からアクセス可能な状態にあり、会話履歴や内部情報を含む100万件以上のログが見えたと報告しました。同社への連絡後、公開状態は解消されています。
発見者Wizの調査報告を読む ↗政府の端末・業務で利用を制限
オーストラリア政府は2025年2月、政府の端末・システムでDeepSeekの使用や導入を防ぐよう指示しました。台湾やチェコも公的機関での利用に制限を設けました。
オーストラリア政府の指示を見る ↗背景には、入力データの保護や国外での取り扱いへの懸念があります。DeepSeekのプライバシーポリシーは、利用者の入力内容を収集し、個人データを中国で処理・保存すると説明しています。チェコの安全保障当局もデータの扱い方と法制度を懸念に挙げました。
読み間違えやすい点：データベースの公開は確認された出来事ですが、各国がこの一件だけを理由に制限したと公式発表は述べていません。また、第三者による悪用や中国政府への提供が確認されたという意味でもありません。
ChatGPT｜他人の会話履歴が見えた不具合
ChatGPTにも、イタリアの当局の措置によって、一時的に現地で使えなくなった時期があります。
別の利用者の会話タイトルが表示
OpenAIによると、プログラムの不具合で一部の利用者に他人の会話のタイトルが見える状態になりました。支払い情報の一部が見えた可能性もあり、OpenAIはサービスを一時停止して修正しました。
OpenAIの事故報告を読む ↗イタリアで処理制限、後に再開
イタリアの個人情報保護当局はデータ流出を挙げるとともに、個人データをAIの学習に使う根拠や年齢確認の不足も問題視。3月末にデータ処理を一時的に制限しました。
イタリア当局の発表を読む ↗OpenAIが説明文や利用者の権利に関する仕組みなどを改善した後、2023年4月28日にサービスが再開されました。問題は不具合ひとつに限らず、個人情報の取り扱い全体にも及んでいたのです。
読み間違えやすい点：「イタリアがChatGPTを永久に禁止した」は誤りです。対象国と再開した時期まで確認すると正確です。
Claude｜政府との利用条件で対立
AnthropicのAI「Claude」も該当します。2026年に米政府が連邦機関での利用停止を指示しましたが、一般向けサービスを禁止する措置ではありませんでした。
軍事利用の条件で交渉が決裂
米国防当局はClaudeを「あらゆる合法的な用途」に使える契約を求めました。Anthropicは、米国内の大規模な監視と、人間の判断なしに攻撃する自律兵器への利用には同意せず、双方の交渉が決裂しました。
Anthropicの当時の声明を読む ↗全連邦機関へ停止指示、後に差止め
2月27日、米大統領は連邦機関にAnthropic製品の利用停止を指示。国防当局は同社を供給網上のリスクに指定しました。カリフォルニア州の連邦地裁は3月にこの訴訟の対象となった措置を差し止め、8月に違法と判断しました。
2026年8月の裁判所の判断を読む ↗これは政府と提供企業の契約条件をめぐる対立で、Claudeから情報が漏れた事件ではありません。Anthropicは一般の利用者や通常の商用利用は影響を受けないと説明しています。別の法律に基づくリスク指定は別の裁判で争われています。地裁の判断は、政府にClaudeの採用を義務づけるものではありません。
読み間違えやすい点：「米政府が制限した」は事実ですが、「Claudeが危険と証明された」「一般利用者も使用禁止になった」は、この件からは言えません。差止めと8月の判決は対象となった措置を限定して説明しましょう。
Grok｜本人の写真を無断で性的に加工する問題
Xで利用できるAI「Grok」では、画像を作る機能の悪用が問題になりました。DeepSeekとは規制の理由が異なります。
実在の人の写真を無断で加工
インドネシア政府は、Grokが個人の写真を本人の同意なく性的に加工・拡散する用途に使われた疑いを調査すると発表。英国の規制当局も、実在の人の性的な偽画像が作られ共有されたとの報告を受け、調査を始めました。
インドネシア政府の調査発表を読む ↗インドネシアでアクセスを停止
インドネシア政府は1月10日、Grokへのアクセスを一時停止しました。運営側の改善に関する約束を受けて、2月には条件付きでアクセス再開の手続きを進めています。
アクセス停止の公式発表を読む ↗英国の対応はXへの正式な調査であり、英国でGrokを禁止したという意味ではありません。一方、インドネシアのアクセス停止は一般の利用者にも影響しました。再開時の条件についてはこちらで確認できます。
読み間違えやすい点：「報告を受けて調査したこと」と「個別の違法行為が認定されたこと」は別です。この記事では当局が公表した範囲を記載しています。
Replika｜未成年者を止められなかった
Replikaは、友人や相談相手のように会話できるAIです。イタリア当局は、利用者の年齢と応答内容に着目しました。
年齢確認なしで利用できる状態
当局の確認では、登録時に年齢を調べる仕組みがなく、会話中に利用者が未成年だと伝えても利用を止める仕組みがありませんでした。未成年者にふさわしくない返答が出ることも問題視されました。
イタリア当局の調査・決定を読む ↗イタリア人利用者のデータ処理を制限
イタリアの個人情報保護当局は、未成年者や心の面で影響を受けやすい人へのリスク、個人データの扱いを理由に、国内の利用者データの処理を一時的に制限しました。
当局の説明を読む ↗その後も調査は続き、当局は2025年に当時の個人情報保護上の違反を認定し、制裁を公表しました。これは2023年当時の問題についての説明であり、現在も全国で利用禁止だと示すものではありません。
「AIが禁止された」ニュースの3つの確認点
見出しを読んだら、本文や公式発表でこの3つを確認してみてください。
誰が対象？
公務員だけか、その国の一般利用者にも影響するか。
何を止めた？
端末への導入、サービスへのアクセス、データの処理のどれか。
いつの話？
一時的な措置か。改善や再開が発表されていないか。
同じ「禁止」という言葉でも、対象と理由は大きく変わります。出来事そのものと当局の判断を分けて読むことも大切です。
参考資料・出典をすべて見る
確認日：2026年9月25日。各事例は当時の国・地域と措置の範囲を記載しています。