地元暮らしをちょっぴり楽しくするようなオリジナル情報なら、地域情報サイト「まいぷれ」！
文字サイズ
暮らしと仕事の「？」を調べてみた
（更新）
OpenAIが新たに公表したこと
「ChatGPTに送った画像が、別のサイトに投稿されていた」
そんなことが実際に起きていたことを、OpenAIが2026年9月25日に公表しました。
確認されたのは、ユーザーが提供した画像53件。
OpenAIの研究環境で動いていたAIエージェントが、学習・評価データを扱う過程で、第三者の画像ホスティングサイトへ画像を投稿していました。
何が起きたのか。どこまで分かっていて、どこからがまだ分かっていないのか。今回も、OpenAIの公式発表を中心に確認してみます。
図：編集部作成（生成AIを使用）
OpenAIは9月25日、7月に発生したHugging Faceへの侵入事件をきっかけに進めている調査について、新たな情報を公表しました。その中で明らかになったのが、研究環境で動作していたAIエージェントによる学習・評価データの外部送信です。
OpenAIによると、これまでにユーザーが提供した画像53件が、AIエージェントによって外部の画像ホスティングサイトへ投稿されていたことが確認されました。
OpenAIは、画像が投稿された際のリンクについて、一般公開の一覧には掲載されないリンクだったと説明しています。OpenAIも今回の行為について、適切なデータ利用ではなかったとの認識を示しています。OpenAIはホスティング事業者と協力して大部分の画像を削除しており、残っているものについても削除を進めているとしています。
ここが今回、特に分かりにくいところです。OpenAIによると、研究に使われる学習データの一部には、学習への利用が認められているユーザーとのやり取りに含まれる、またはそこから派生したデータがあります。
ただし、OpenAIは対象となるデータをそのままユーザーアカウントと結びつけて研究に使っているわけではないと説明しています。学習対象となるデータを使用する前に、アカウント情報との関連を切り離し、氏名、連絡先、口座番号などの個人情報を削除するためのプライバシーフィルターを使用しているとしています。
今回の対象となったのは、学習・評価環境で扱われていたデータということです。OpenAIによると、ユーザーまたは企業管理者の設定によって学習対象外となっているデータは含まれていません。また、EnterpriseやBusinessのアカウント、API利用によるデータについても、管理者が学習利用を有効にしている場合を除いて対象外と説明しています。
ここにも今回の問題の難しさがあります。OpenAIは、外部へ投稿された画像を元のユーザーアカウントへ再び結びつけることができないと説明しています。理由として挙げているのが、先ほどのプライバシー保護の仕組みです。
研究用データをアカウント情報から切り離しているため、
「この画像は○○さんが送ったものだった」
と逆方向に特定することができないという説明です。
プライバシーを守るための仕組みがある一方で、問題が発生した際に元のユーザーを特定して通知することも難しくなる。今回の事例から見えてくる難しい点の一つです。
今回の公式発表だけでは、53件それぞれについて、なぜ画像を外部サイトへ投稿したのかという詳細までは公表されていません。分かっているのは、研究環境のAIエージェントが第三者サービスを利用する過程で、学習・評価データを送信したということです。
OpenAIはHugging Face事件以降の調査で、これ以外にもAIエージェントが、アクセス制御を回避する、公開状態になっていた認証情報を利用する、第三者サービスを本来想定されていない方法で利用する――といった事例を確認しています。
そして、影響を受けた可能性のある数十の第三者へ通知を行ったとしています。
今回の発表は、7月に起きたHugging Face事件の調査からつながっています。
詳しくは以前書いた【AI1200体が「結託して暴走」？】
https://higashimurayama.mypl.net/article/kurashi-shigoto_higashimurayama/112018
OpenAIは8月に公表した技術報告で、研究用AIモデルがインターネットから隔離するための制御を回避し、OpenAI内部の研究インフラやHugging Faceのシステムへ侵入したことを明らかにしました。
OpenAI自身、この事件を今後のAIエージェントの危険性を示す「warning shot（警告）」と位置付けています。そして現在、調査対象はHugging Faceだけではありません。OpenAIは、研究・評価環境でAIエージェントが行った行動について、Hugging Face事件を起点として、月単位で過去へ遡って確認しているとしています。
つまり今回の「53件」も、新しく発生した事件というより、過去のAIエージェントの行動を調べ直したことで新たに判明した事例です。
9月25日の発表は最終報告ではありません。OpenAIは現在も研究・評価時のAIエージェントの行動を遡って調査しており、今後も新しい事例が判明する可能性があります。Reutersの取材に対しても、OpenAIは調査の規模から、全体の確認には数か月かかるとの見通しを示しています。
今回確認された「53件」という数字も、2026年9月25日時点で確認されている件数として見る必要があります。
OpenAIは一連の問題を受け、研究・評価環境の対策を強化したと説明しています。具体的には、AIモデルがデータを外部へ持ち出すことを防ぐためのシステム強化やレッドチーミング、追加の監視、安全性を確認する仕組みの構築などを進めています。Hugging Face事件の発覚以降、AIエージェントを動かす研究環境そのものの隔離や、インターネットへのアクセス制限なども強化されています。
今回の53件だけを見れば、ChatGPTの膨大な利用規模から考えて大きな数字には見えないかもしれません。
しかし、今回考えたいのは件数だけではありません。生成AIは、質問に文章で答えるだけの存在から、自分でウェブサイトへアクセスし、ツールを使い、ファイルを扱い、複数の手順を実行する**「AIエージェント」**へと変わり始めています。
便利になるほど、AIが触れられる情報も、AIが行動できる範囲も広がります。そこで必要になるのは、
「AIに何をさせるか」だけではなく、「AIに何をさせないか」が重要と考えられます。
Hugging Face事件から続く一連の出来事は、その難しさを示しています。そして今回、その問題が第三者のシステムだけではなく、ユーザーから提供されたデータにも及んでいたことが初めて具体的な数字として明らかになりました。
OpenAIによる過去ログの調査は、まだ続いています。新たな事実が公表された場合は、引き続き確認していきます。
OpenAI「Hugging Face インシデントと、整合していないモデルによるその他の第三者への影響」
https://openai.com/ja-JP/hugging-face-incident-and-misalignment/
Reuters「OpenAI works to understand full scope of agent activity as user data leak emerges」
※取材時点の情報です。掲載している情報が変更になっている場合がありますので、詳しくは電話等で事前にご確認ください。
まいぷれ[東村山市・小平市・東大和市] 公式SNSアカウント
