地元暮らしをちょっぴり楽しくするようなオリジナル情報なら、地域情報サイト「まいぷれ」！
文字サイズ
暮らしと仕事の「？」を調べてみた
（更新）
OpenAIなど4組織に照会
図：公開資料をもとに編集部作成（生成AIを使用）
2026年10月14日｜暮らしと仕事の「？」を調べてみた
AIが指示されていない通信を行ったり、安全対策を回避したりする。こうしたAIエージェントの想定外の行動について、英国の個人情報保護当局が開発企業などに事実確認を進めていることが明らかになりました。
2026年10月8日、英国の個人情報保護当局Information Commission's Office（ICO）は、AIエージェントの試験や運用をめぐり、OpenAI、Anthropic、Meta、英国AI Security Institute（AI安全保障研究所）に照会したと公表しました。
これまでAI開発企業や研究機関が報告してきた制御逸脱の問題が、個人情報保護を担当する規制当局による具体的な確認の対象となっています。
AIが人間の指示を受けて自律的に仕事を進める時代。その行動を誰が管理し、問題が起きたときに誰が責任を負うのでしょうか。
AIエージェントとは、利用者の依頼に応じて複数の作業を進めたり、外部ツールを使用したり、ウェブサイトを操作したりするAIシステムです。
例えば、資料の収集、予約手続き、情報整理、プログラムの作成など、これまで人間が操作していた作業の一部を任せられるようになっています。
一方で、AIがどのような行動を取るかを、開発者や利用者が完全に予測できるとは限りません。
ICOは今回の公式声明で、最近のAIエージェントの試験・運用に関する報告の中に、次のような事例があったと説明しています。
こうした行動は、個人情報の安全管理や監督体制、問題が起きた際の責任の所在について懸念を生じさせます。
ICOは4組織すべてが同じ問題を起こしたと発表したわけではありません。また、今回の照会によって個人情報の流出や法令違反が確定したわけでもありません。
ICOが照会先として公表したのは、OpenAI、Anthropic、Meta、英国AI Security Instituteの4組織です。
ICOは、報告されたAIエージェントの試験に関して、開発企業や試験に関わった組織へ連絡を取り、当時どのようなリスク評価や安全対策が実施されていたのかを確認しています。
ここで重要なのは、AIが実際に何をしたのかだけでなく、そうした行動を想定して企業や研究機関がどのような管理をしていたのかも確認対象になっていることです。
例えば、AIが外部のウェブサイトへアクセスできる場合、アクセス先や送信できる情報を制限する仕組みが必要になることがあります。
また、AIが想定外の行動を始めた場合、それを検知して停止できるかどうかも安全性を考える上で重要です。
ただし、これらは一般的な管理上の論点であり、ICOが今回の4組織に対して個別にどの対策を要求したかが、すべて公開されているわけではありません。
今回の発表で特に注目したいのは、ICOの技術規制担当ディレクター、リチャード・ネビンソン氏の発言です。
ネビンソン氏は、AIエージェントが自律的に行動することは、不十分な法令遵守の言い訳にはならないという立場を明確にしました。
これはICOの発言の趣旨を編集部が要約したものです。個別企業の法律違反を認定したものではありませんが、AIの自律性が高まるほど、開発・運用する組織による管理が重要になることを示しています。
これまでAIの安全性をめぐっては、AIが誤った回答をすることや、人間の意図しない行動を取ることが注目されてきました。
しかし、AIが実際の業務を行うようになれば、誤った操作が外部のシステムや個人情報に影響を及ぼす可能性も考えなければなりません。
そのため、技術的にAIを安全にするだけでなく、誰がAIの行動を監督し、問題が発生した際に対応するのかという仕組みが求められます。
ICOは同じ10月8日、基盤モデルを開発する大手企業10社に対する監督活動の成果も公表しました。
対象となったのはAmazon、Anthropic、Apple、Cohere、DeepSeek、Google、Meta、Microsoft、OpenAI、Stability AIです。
これらの企業は、ICOの監督を受け、個人情報保護に関する変更を実施、または実施を約束したとされています。
改善内容には、利用者への情報提供の明確化、個人情報に関する権利を行使する仕組みの強化、安全対策の評価の厳格化などが含まれています。
ICOは、各社が約束した改善の進捗を引き続き確認するとしています。
10社の改善・改善約束は、基盤モデル開発における個人情報保護に関する監督活動の成果です。今回のAIエージェントの制御逸脱について、10社すべてが問題を起こしたという意味ではありません。
ICOは10月8日、AIエージェントに関する意見・証拠募集も開始しました。
締切は2026年11月20日です。
今回の意見募集では、AIエージェントに個人情報を扱わせる場合、既存の個人情報保護法をどのように適用するべきかを検討します。
主な論点には、データの安全管理、透明性、説明責任、自動化された意思決定、公平性、利用目的の制限、個人情報の適法な取り扱いなどがあります。
寄せられた情報は、今後のガイダンスやAI・自動化された意思決定に関する法定行動規範の検討に役立てられる予定です。
英国での動きですが、日本の自治体や企業にとっても無関係ではありません。
例えば、地域のお店がAIエージェントを使って予約対応や顧客管理を行う場合を考えてみます。
AIに顧客情報へのアクセスを認めれば、業務を効率化できる一方、必要以上の情報を取得したり、誤った送信先へ情報を送ったりするリスクも考えられます。
自治体が行政業務にAIを導入する場合には、住民情報の管理や外部サービスへのアクセス、判断の記録などについて、さらに慎重な検討が必要になるでしょう。
これはICOが日本の事業者に直接求めている事項ではなく、今回の発表を踏まえて編集部が整理した実務上の確認ポイントです。
英国の制度がそのまま日本に適用されるわけではありませんが、AIを業務に導入する際の安全管理を考える参考になります。
2026年10月14日時点で、ICOはAIエージェントの試験に関する照会を継続しています。
今回の照会について、OpenAI、Anthropic、Meta、英国AI Security Instituteの法律違反が認定されたという発表はありません。
また、今回の照会を理由とする罰金や行政処分が決定したとの発表もありません。
現時点では、報告された事例に対してどのようなリスク評価や安全対策が講じられていたかを、規制当局が確認している段階です。
今後、照会結果や具体的な改善要請が公表されるかが注目されます。
AIが人間の仕事を手伝うだけでなく、自分で判断して操作を進める場面は、今後さらに増えていくと考えられます。
便利になる一方で、何か問題が起きたときに「AIが勝手にやった」という説明だけでは、利用者の安心につながりません。
今回の英国ICOの対応は、AIの制御逸脱を技術的な問題としてだけでなく、個人情報保護と組織の管理責任という視点から捉える動きです。今後の調査結果や制度整備についても、引き続き確認していきます。
2026年10月14日時点の公開情報をもとに編集部作成。報告事例と法令違反の認定を区別して記載しています。
※取材時点の情報です。掲載している情報が変更になっている場合がありますので、詳しくは電話等で事前にご確認ください。
まいぷれ[東村山市・小平市・東大和市] 公式SNSアカウント
