AIの回答に、別の利用者の情報が混入――Cloudflareが公表した155件の事故とは？
生成AIに質問をすると、通常は自分が入力した内容や、AIが参照できる情報をもとに回答が返ってきます。
ところが、別の利用者が入力した情報が、自分への回答に混ざってしまったらどうでしょうか。
米国のインターネット関連企業Cloudflare（クラウドフレア）は2026年10月26日、同社が提供するAIサービスで、別の顧客のデータが回答に混入する不具合が発生していたと公表しました。
ただし、155人の個人情報が流出したという意味ではありません。また、すべての生成AIサービスで同じ問題が起きていたわけでもありません。
なぜAIの回答に、別の利用者の情報が混ざってしまったのか。
何が起きた？
問題が発生したのは、Cloudflareの「Workers AI」というサービスです。Workers AIは、企業や開発者が自社のWebサービスやアプリケーションにAIの機能を組み込むための基盤です。
今回の不具合は、その中で提供されていた「GLM-5.3」というAIモデルに関係していました。
Cloudflareの公式調査によると、2026年8月27日から9月9日までの間、一部の利用者への回答に、直前に同じモデルを使った別の顧客のデータが含まれることがありました。同社が確認した影響は合計155件の応答です。
9月8日に外部のセキュリティ研究者から報告を受け、翌9日に不具合を再現して修正しました。Cloudflareは、ほかのWorkers AIモデルには影響がなかったと説明しています。
なぜ別の利用者の情報が混ざったの？
原因は、AIの回答を生成する際に使う、一時的なメモリの管理にありました。
生成AIは、質問文などを処理するとき、その計算結果の一部を一時的に保存します。今回問題になったのは、「KVキャッシュ」と呼ばれる仕組みです。AIが文章を処理する途中で使う、一時的な作業メモのようなものと考えると分かりやすいでしょう。
本来は、利用者Aの処理に使った情報が、利用者Bの回答に影響しないよう管理される必要があります。
ところが今回、非常に長い文章が入力された際、システムが正常に処理を終了できず、以前の利用者の情報が残ったメモリ領域を参照してしまいました。その結果、別の顧客の入力情報などが回答に混入しました。
どんな条件で発生した？
Cloudflareによると、影響が確認された155件は、すべて681,280トークンを超える長い入力に対する応答でした。
トークンとは、AIが文章を処理するときの単位です。日本語では文字数と一致するものではありません。
一般的な短い質問を入力しただけで、今回の不具合が発生したという報告ではありません。ただし、長い文書や大量のデータをAIに処理させる企業にとっては、重要な問題です。
事前のテストでは見つけられなかった？
今回の公式調査で注目したいのは、Cloudflareが不具合につながる設定の不一致を、サービス開始前から認識していたことです。
GLM-5.3では、最大1,048,576トークンの入力を扱う設定になっていました。一方、計算途中の情報を保存するメモリ領域には、681,280トークン分しか収まらない状態でした。
Cloudflareは、この違いを認識していましたが、長い入力を使った事前テストでは正常なHTTP応答が返っていたため、問題ないと判断していました。
しかし、実際には、処理できない長さの入力を受けた際のエラー処理に不具合がありました。通常なら処理を中断してエラーを返すべきところで、以前の利用者の情報が残るメモリ領域を使って回答を生成してしまったのです。
Cloudflareは今回の事故を受け、設定の修正だけでなく、エラー処理の仕組みも修正しました。
システムが正常に応答することと、その応答が安全に生成されていることは別だと分かります。
155件の情報漏えいが起きたということ？
Cloudflareが公表した155件は、別の顧客のデータが混入した応答の件数です。155人が被害を受けたという意味ではありません。
また、どのような情報がどの程度含まれていたのか、最終的にどのような影響が生じたのかは、この件数だけでは判断できません。
Cloudflareは、調査の結果、意図的に不具合を悪用した証拠は見つかっていないと説明しています。ただし、「悪用の証拠がない」ことと、「情報混入が起きなかった」ことは違います。
パナソニックの生成AI事案とは何が違う？
この特集では、パナソニックの従業員ら約33万4,000人分の個人情報が、社内で利用を禁止された外部生成AIサービスへアップロードされた事案も取り上げました。
今回のCloudflareの事故とは、問題が起きた場所が異なります。
| 比較 | パナソニックの事案 | Cloudflareの事案 |
|---|---|---|
| 問題の発生場所 | AIを利用する企業側 | AIサービスを提供する基盤側 |
| 主な原因 | 社内ルールに反したデータのアップロード | メモリ管理とエラー処理の不具合 |
| 確認された問題 | 個人情報を外部AIへ送信 | 別の顧客のデータが回答に混入 |
| 数字の意味 | 対象となる約33万4,000人 | 影響した155件の応答 |
どちらもAIを利用する際の情報管理に関わりますが、同じ種類の事故ではありません。利用者が入力内容に注意するだけでは、サービス提供基盤の不具合を防ぐことはできません。
地域の仕事にも関係する？
今回の事故で、東村山・小平・東大和の事業者が被害を受けたと確認されたわけではありません。
それでも、地域の店舗や事業所がAIを利用するときに考えておきたい問題です。例えば、顧客からの問い合わせ、契約書、予約情報、社内資料などを外部AIに処理させる場合です。
AIサービスを選ぶ際には、回答の精度や料金だけでなく、入力した情報がどのように扱われるのか、問題が起きた際に提供会社がどのように通知・対応するのかも確認する必要があります。
また、機密情報や個人情報については、業務上本当に入力する必要があるかを検討し、入力する場合も必要最小限にとどめることが大切です。
これは、今回と同じ不具合が他社のサービスでも発生しているという意味ではありません。AIを利用する側が、サービス提供基盤の安全性にも目を向ける必要があるということです。
編集部まとめ
今回、CloudflareのAIサービス「Workers AI」で提供されていたGLM-5.3において、別の顧客のデータが155件の応答に混入していたことが確認されました。
原因は、AIを動かすシステムの設定とエラー処理の不具合でした。Cloudflareは9月9日に修正を行い、ほかのWorkers AIモデルへの影響は確認されていないと説明しています。
一方、情報の具体的な内容や、最終的な影響の全容までは、公開された数字だけでは分かりません。
AIの安全性は、AIモデルの回答内容だけで決まるわけではありません。 AIを動かすサーバーやソフトウェアが、利用者の情報を正しく区別して扱えているかも重要です。
主な確認資料・情報源
Cloudflare（2026年10月26日）
「Cross-request KV cache exposure in the GLM-5.3 Workers AI model, and our remediation with SGLang」
https://blog.cloudflare.com/kv-cache-exposure-remediation/
