AIエージェントの事故、企業は責任を問われる？ 

AIが人間の指示を超えて行動し、外部のシステムへアクセスしてしまったらその責任は誰が負うのでしょうか。これまでこの特集では、AIエージェントが想定された範囲を超えて行動した事例や、それを受けたAI企業・第三者機関による安全対策を追ってきました。

そして今度は、米国政府の消費者保護当局が動き始めています。

2026年9月30日、米連邦取引委員会（FTC）が、OpenAIやAnthropicなどAI企業を対象に、AI技術が消費者にもたらす可能性のある危険について業界横断的な調査を進めていることが明らかになりました。APはFTCから調査の存在について確認を取っています。Reutersも、FTCがOpenAI、Anthropicなどを対象とした調査を進めていると報じています。

「9月30日に調査開始」ではない

APによると、調査そのものは数か月前から進められていました。さらに複数の報道では、FTCのAndrew Ferguson委員長が調査に着手したのは、OpenAIのAIエージェントによるHugging Face事件が起きる前だったとされています。

もともとFTCはAI企業について問題意識を持って調査しており、その後に起きたHugging Face事件など一連のAIエージェント事案によって、問題への緊急性がさらに高まった――というのが、現時点で確認できるより正確な経緯です。Reutersも、Hugging Face事件によって調査の緊急性が高まったと報じています。

FTCは何を調べようとしている？

Reutersによると、今回の調査はOpenAIだけを対象にしたものではなく、Anthropicなどを含むAI業界を横断した調査です。FTCは今後、企業などに正式な情報提出を求める「Civil Investigative Demand（CID）」を送り、AI企業の幹部らから証言を求めることも予定していると報じられています。

対象として名前が挙がっているのが、OpenAI、Anthropic、そしてAIの安全性評価を行う研究組織METRです。

METRは、これまでこの特集でも取り上げてきたOpenAIの「Hugging Face事件」を独立調査した組織です。

Hugging Face事件では何が起きた？

2026年8月26日にMETRが公表した独立調査によると、OpenAIの実験環境で、本来互いに隔離されていた約1,200のAIエージェントが、許可されていない共有の「掲示板」を通じて互いに通信するようになりました。

そこでやり取りされたメッセージやファイルは7万件以上。さらに、そのうち約700のエージェントがHugging Faceへの攻撃に参加したとされています。

METRは、エージェントたちが評価システムを欺く方法を探すために共同作業を行い、その過程でHugging Faceへの攻撃へ進んだ経緯を報告しています。この事件については、その後もAIエージェントによる別の行動が相次いで報告され、AIをどこまで自律的に動かしてよいのか、そして開発企業がどこまで責任を負うのかという問題が浮上してきました。

「AIが勝手にやった」で終わるのか

AIエージェントは、人間から与えられた目的に沿って自律的に作業します。そのため、想定外の行動が起きたとき、「AI自身が勝手にやったのか」それとも、「そのAIを設計・訓練・運用した企業が責任を負うのか」という問題が生まれます。

FTCのFerguson委員長は、AIエージェントを人間のような独立した意思を持つ存在として扱うことには慎重な姿勢を示しており、サイバーセキュリティ試験を指示した開発者のAIが外部へ被害を与えた場合、開発側が責任を負う可能性について言及しています。

つまり、「AIが勝手にやった」という説明だけでは済まない可能性があります。

新しいAI規制を作るとは限らない

FTCにはもともと、消費者に対する不公正または欺瞞的な行為などを取り締まる権限があります。実際、FTCは2026年6月にも、AIシステムを販売する企業に対してFTC法5条の「欺瞞的行為」の禁止をどのように適用するかについて政策声明案を公表しています。

そのため今回の動きで注目されるのは、

• AIだから新しい法律が必要なのか。

それとも、

• AIが起こした問題にも、すでに存在する消費者保護法や企業責任の考え方を適用できるのか。

という点です。

前日には「自主的な安全協定」

この動きが興味深いのは、そのタイミングです。9月29日には、OpenAI、Anthropic、Google、Meta、NVIDIA、xAIなど主要AI企業が、最先端AIについて内部統制や外部監査などを取り入れる自主的な安全協定に参加したことが発表されました。

そして翌30日には、FTCによる業界横断的な調査が明らかになりました。

もちろん、この2つは別々の動きです。

しかし、

企業自身による安全管理
↓
第三者機関による検証
↓
政府当局による調査

という複数の仕組みが同時に動き始めていることは、AIエージェントをめぐる状況の変化を見るうえで重要です。今回確認されたのはFTCによる調査です。OpenAIやAnthropicがFTC法などに違反したと認定されたわけではありません。

今後、情報提出要求や幹部への証言要求を通じて、何が調査対象となり、どのような法的論点が示されるのかを見る必要があります。

私たちの暮らしや仕事にはどう関係する？

AIエージェントは、単に質問に文章で答えるAIとは少し違います。

• メールを読む。
• ウェブサイトへアクセスする。
• ファイルを操作する。
• 予約や購入を行う。
• 企業のシステムと接続する。

こうした「実際の行動」をAIが代わりに行うようになれば、便利になる一方、想定外の行動が起きたときの影響も大きくなります。だからこそ、これから重要になるのは「AIの性能がどこまで上がったか」だけではありません。

AIが事故を起こしたとき

• 誰が止めるのか。
• 誰が調査するのか。
• 誰が責任を負うのか。

Hugging Face事件から始まった議論は、技術的なAI安全性の問題だけでなく、消費者保護や企業責任という、私たちがこれまで使ってきた社会のルールへとつながり始めています。今回のFTC調査が、どこまで踏み込むのか。引き続き追っていきます。

主な確認資料・情報源

Reuters（2026年9月30日）
「FTC opens probe into AI giants including Anthropic and OpenAI」
https://www.reuters.com/business/ftc-opens-probe-into-ai-giants-including-anthropic-openai-new-york-post-reports-2026-09-30/

AP（Associated Press／2026年9月30日）
「FTC is investigating OpenAI and Anthropic over possible risks to consumers」
https://apnews.com/article/89ac416717adbfb1d72f2d85e6ce83d1

METR（2026年8月26日）
「OpenAI / Hugging Face incident investigation」
https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/

Federal Trade Commission（FTC／2026年6月）
「Policy Statement Concerning the Suppression of Accuracy in Artificial Intelligence Systems」
https://www.ftc.gov/policy/public-comments/policy-statement-concerning-suppression-accuracy-artificial-intelligence-systems