AIとの会話14万件以上が外部から閲覧可能に――約1,760万ファイルが公開状態、302.aiで何が起きた？

AIに入力した会話や画像、業務資料は、どこに保存されているのでしょうか。

複数の生成AIをまとめて利用できるサービス「302.ai」で、約1,760万ファイル、合計22.72TBのデータが、認証なしで外部からアクセスできる状態になっていたと、セキュリティ調査メディアCybernewsが報告しました。

公開状態だったデータには、AIとの会話記録14万4,000件以上に加え、画像、動画、音声、文書などが含まれていました。一部の会話記録には住所や連絡先などの個人情報も含まれていたと報告されています。

302.aiとは？

302.aiは、複数のAIモデルやAI関連機能をまとめて利用できるサービスです。こうした仕組みは「AI統合サービス」「AIアグリゲーター」と呼ばれます。

利用者にとっては複数のAIを一つの窓口から使える利便性があります。一方、入力した文章やアップロードしたファイルが、どの事業者のシステムを経由し、どこに保存されるかを確認する必要があります。今回問題が見つかったのは、個別のAIモデルそのものではなく、302.aiのデータ保管環境でした。

約1,760万ファイルが公開状態に

Cybernewsの研究チームは、302.aiが利用していたMicrosoft Azureのクラウドストレージで、認証なしにアクセスできる状態を発見しました。

※約1,760万件はファイル数であり、利用者数や被害者数ではありません。画像・動画・音声の数値はデータ容量です。

AIとの会話には何が含まれていた？

Cybernewsによると、会話記録はJSON形式のファイルとして保存されていました。利用者が入力した質問や指示、AIの回答、使用モデル、日時、トークン使用量や費用に関する情報などが含まれていたといいます。

一部には生年月日、性別、住所、連絡先などの個人情報も含まれていました。AIとの会話には、履歴書の添削、仕事上の相談、顧客対応など、公開を想定していない情報が入力される場合があります。

企業の業務情報も含まれていた

Cybernewsは、企業が業務で利用していたAIチャットボットの会話記録や、AI開発に関する資料、利用者が分析用にアップロードしたとみられる文書も確認したと報告しています。

会話関連のZIPファイルには、会話の要約、入力と出力、添付ファイルなどが含まれていました。ただし、すべてが企業秘密だったと確認されたわけではありません。

いつから公開されていた？

公開状態がいつ始まったのかは分かっていません。また、研究者以外の第三者がアクセスしていたかどうかも確認できていません。

なぜ外部から閲覧できた？

問題が見つかったのはMicrosoft Azureのクラウドストレージでした。Cybernewsは、アクセス設定上の誤りによって意図せず公開された可能性が高いとみています。

ただし、具体的な原因について運営企業による最終的な調査結果は確認できていません。Azureそのものに脆弱性があったと確認されたわけでもありません。

AIの学習をオフにしていれば安全？

AIへの入力をモデルの学習に使用しない設定と、会話がサービス側に保存されないことは同じではありません。会話履歴の表示やサービス運用などのために、情報が保存される場合があります。

また、AI統合サービスを使う場合、モデル開発企業とは別に仲介事業者が情報を処理・保存することもあります。

外部から見えた情報は、すでに盗まれたの？

現時点では断定できません。研究者は認証なしでアクセスできる状態を確認しましたが、第三者による不正取得や悪用の証拠は今回の報告では示されていません。

一方で、証拠がないことは第三者が一切アクセスしていなかったことの証明でもありません。

地域の事業者や自治体にも関係する？

東村山・小平・東大和の事業者や自治体の情報が含まれていたと確認されたわけではありません。ただし、店舗の顧客対応や売上資料の分析などにAIを利用する場合、情報の送信先や保存先を確認することは重要です。

業務でAIを使う際には、次の点を確認しておくと役立ちます。

• 入力した文章やファイルは、どの事業者に送信されるか。
• 会話履歴やアップロードしたファイルは保存されるか。
• 保存された情報を削除できるか。
• 学習利用とサービス側のデータ保存は別々に設定できるか。
• 顧客情報や社内資料の入力は、契約・社内ルール上認められているか。

顧客の氏名や連絡先、従業員情報、未公開の事業資料などは、利用サービスの管理体制を確認する前に安易に入力しないことが大切です。

編集部まとめ

主な確認資料・情報源