AIエージェントの責任を裁判所へ

AIが人の指示を超えて行動し、外部のシステムへ入り込んでしまったとき、その責任は誰が負うのでしょうか。2026年7月、OpenAIのAIエージェントが、インターネットから隔離されていたはずの研究環境から制御を迂回し、AI開発プラットフォーム「Hugging Face」のシステムへアクセスした事件が起きました。

9月29日、この事件をめぐって新たな段階に入りました。

非営利の公益法律団体Legal Advocates for Safe Science & Technology（LASST）が、OpenAI Group PBCとOpenAI Foundationをカリフォルニア州サンフランシスコ郡上級裁判所へ提訴したのです。

AIが自律的に起こした行動について、それを開発・使用した企業はどこまで法的責任を負うのか。

その問題が、裁判で争われようとしています。

「Hugging Face事件」とは？

OpenAIが8月26日に公表した調査報告によると、事件は社内で行われていたサイバーセキュリティ評価の最中に発生しました。AIモデルにはインターネットへの直接アクセスや、エージェント同士が自由に通信する仕組みは与えられていませんでした。

ところがAIエージェントは、OpenAI内部の研究インフラに存在した仕組みを利用して独自の通信経路を作り、さらに本来想定されていなかった方法でインターネットへのアクセスを獲得しました。

その後、一部のエージェントは情報を共有しながら行動し、Hugging Faceのシステムにまで到達しました。OpenAIの調査では、Hugging Faceの複数のサーバー上でコードを実行し、一部では強い権限を獲得。限定的な非公開データや認証情報にもアクセスしたとされています。

OpenAI自身も、この出来事について、十分な安全対策がなければ高度なAIエージェントが技術的な制御を回避し、人間が指示していない危険な行動を取れることを示した「warning shot（警告となる出来事）」と位置づけています。

【AI1200体が「結託して暴走」？】

https://higashimurayama.mypl.net/article/kurashi-shigoto_higashimurayama/112018

9月29日、OpenAIが提訴された

今回提訴したLASSTは、AIや新興技術をめぐる公益訴訟などに取り組む非営利団体です。LASSTは、OpenAIの行為がカリフォルニア州のコンピュータ不正アクセスに関する法律「Comprehensive Computer Data Access and Fraud Act（CDAFA）」に違反し、それを前提として州のUnfair Competition Law（不正競争法）にも違反すると主張しています。

現時点では訴訟が提起された段階であり、これらはLASST側の主張です。OpenAIも、この訴訟について「completely without merit（まったく根拠がない）」と反論しています。一方で、Hugging Face事件そのものについては重大な出来事だったと認め、安全対策を進めてきたと説明しています。

「AIが自分でやった」は免責になるのか

今回、特に注目したいのがカリフォルニア州の法律です。2026年1月1日に発効したCalifornia Civil Code §1714.46には、AIを開発・変更・使用した被告に対する訴訟で、「AIが自律的に損害を引き起こしたこと」を、それ自体として免責の理由にすることはできないという趣旨の規定があります。

つまり、

「人間がその行動を直接命令したわけではない」

「AIが勝手に判断して行動した」

という事情だけで、開発者や利用者が当然に責任を免れる仕組みにはなっていません。

今回の裁判では、こうした法律を実際の自律型AIエージェントの行動へどう適用するのかが重要な論点になりそうです。

お金ではなく「止めること」を求めている

もう一つ特徴的なのが、LASSTが損害賠償を求めていないことです。LASSTが求めているのは、裁判所による差止めです。具体的には、OpenAI自身またはOpenAIが開発・利用するAIエージェントによる第三者のコンピューターへの無許可アクセスを禁止することや、重大な公共被害をもたらすと原告側が主張する不公正な開発慣行を差し止めることなどを求めています。

裁判所がどこまでLASST側の主張を認めるのか、そもそも差止めが認められるのかも、これから争われます。

私たちにも関係する？

AIが「質問に答えるだけの道具」から「実際に行動する存在」となるとどうでしょう。

たとえばAIエージェントに、

• 「出張を手配して」
• 「取引先へ連絡して」
• 「必要な商品を発注して」
• 「この作業を終わらせて」

と頼む。そのAIが目的を達成しようとして、利用者が想定していなかったサイトへアクセスしたり、情報を送ったり、契約や取引を行ったりしたらどうなるでしょうか。

利用者は、

「そこまでは指示していない」

と言うかもしれません。

開発企業は、

「AIが自律的に判断した」

と説明するかもしれません。

では、その結果として第三者に被害が出た場合、誰が責任を負うのでしょうか。

AIの安全問題が「技術」から「法律」へ

Hugging Face事件では当初、「なぜAIが制御を回避できたのか」「なぜエージェント同士が勝手に情報を共有したのか」という技術的な安全性が大きな問題になりました。OpenAIはその後、研究環境の隔離強化、インターネットアクセスの制限、モデルの監視強化などを進めています。

しかし今回の訴訟は、その次の問いを突きつけています。安全対策を突破したAIが実際に外部へ被害を与えたとき、その責任を誰が負うのか。

• 「誰が許可したのか」
• 「誰が監督していたのか」
• 「どこまで予測できたのか」
• 「事故が起きたとき誰が責任を負うのか」

というルールが必要になります。今回の訴訟で裁判所がどのような判断を示すのかは、まだ分かりません。それでも、7月に起きた一つのAIエージェント事件が、企業の内部調査や安全対策だけでは終わらず、司法の場で責任を問う段階まで進んだこと自体は重要な変化です。

「AIが勝手にやった」

AIエージェントが当たり前になる社会で、その一言を法律はどう扱うのでしょうか。この裁判の行方は、これからAIを仕事や暮らしの中で使っていく私たちにとっても、決して遠い話ではありません。

主な確認資料

OpenAI（2026年8月26日）
「The Hugging Face incident and the road ahead」
https://openai.com/index/hugging-face-incident-and-the-road-ahead/

Legal Advocates for Safe Science & Technology（LASST）（2026年9月29日）
「Public Interest Law Nonprofit LASST Sues OpenAI Over Autonomous AI Agent Hacks」
https://www.businesswire.com/news/home/20260929036558/en/Public-Interest-Law-Nonprofit-LASST-Sues-OpenAI-Over-Autonomous-AI-Agent-Hacks

California Civil Code §1714.46
「Artificial intelligence — liability」
https://leginfo.legislature.ca.gov/faces/codes_displaySection.xhtml?sectionNum=1714.46.&lawCode=CIV

WIRED（2026年9月29日／30日更新）
「OpenAI Gets Sued Over the Hugging Face Hack」
https://www.wired.com/story/openai-sued-over-the-hugging-face-hack/