地元暮らしをちょっぴり楽しくするようなオリジナル情報なら、地域情報サイト「まいぷれ」！
文字サイズ
暮らしと仕事の「？」を調べてみた
（更新）
AIエージェント時代の「責任」を調べてみた
図：公開資料をもとに編集部作成（生成AIを使用）
AIに質問して、答えてもらう。そんな使い方から、AIに「仕事そのものを任せる」時代へ移りつつあります。メールを読んで返信する。予約を管理する。商品を発注する。社内システムを操作する。こうした複数の作業を、目的に合わせて自律的に進める「AIエージェント」の利用が広がっています。
では、こんなことが起きたらどうなるのでしょうか。
「仕入れ代金を支払って」とAIに任せたところ、AIが間違えて100万円を別の相手へ送金してしまった。
責任を負うのはAIを使った会社でしょうか。AIを開発した会社でしょうか。
それとも利用規約に「AI企業は責任を負わない」と書かれていれば、それで終わりなのでしょうか。
※「100万円の誤送金」は、今回実際にAnthropicで発生した事例ではありません。AIエージェントが金融取引まで行うようになった場合を考えるための仮定です。
2026年9月、AI企業Anthropicが株式上場に向けて作成した目論見書について、興味深い報道がありました。
今回は、AIが自分で行動するようになったとき、その結果について誰が責任を負うのかを調べてみます。
Reutersが2026年9月29日に報じたところによると、Anthropicは株式上場に向けた目論見書で、AIエージェントがもたらす法的リスクについて説明しています。Reutersが確認した目論見書によると、将来のAIエージェントは顧客のシステムに深くアクセスしながら、数日間にわたって自律的に動作する可能性があります。
そして、エラーや意図とのずれ、セキュリティ上の問題などによって、
など、取り消すことが難しい行為を起こす可能性がリスクとして挙げられています。また、2026年9月30日時点で編集部が確認した範囲では、Reutersが閲覧した目論見書そのものをAnthropicや米証券取引委員会（SEC）の公開ページから確認することはできませんでした。
そのため本記事では、目論見書の内容についてはReutersが確認・報道した範囲を超えて事実認定しません。
「利用規約に免責を書けば終わり」とも限らない
今回、特に注目したのはこちらです。
ReutersによるとAnthropicは、自社サービスの利用規約などに設けている責任制限について、AIエージェントによる損害の場合には、それが法的に有効、あるいは十分なものになるとは限らない可能性をリスクとして挙げています。
つまり、
「利用規約に『当社は責任を負いません』と書いてあるから、AIが何をしてもAI会社に責任はない」
と単純には整理できない可能性がある、ということです。
一方で、これは「AI会社が必ず責任を負う」という意味でもありません。誰が、どのようなAIを、どのような権限で使い、どのような安全対策を取っていたのか。実際の責任は、こうした具体的な事情によって変わると考える必要があります。
AIが自律的に動いたからといって、現在の法律でAIそのものが人間や会社と同じように責任を負う存在になったわけではありません。
問題になるのは、
など、人や企業の間で責任をどう整理するかです。
Reutersの報道では米国でも、AIエージェントは法的に「製品」なのか「サービス」なのか、AIエージェントが行った契約や操作をどのように扱うのか、予想外の行動について開発者と利用者のどちらが責任を負うのか、といった論点がまだ整理の途中であることが伝えられています。
ここで日本の資料を調べてみると、ちょうどこの問題について政府による検討が進んでいました。
経済産業省は2026年4月9日、
「AI利活用における民事責任の解釈適用に関する手引き」
を公表しています。
これは、AIによって損害が発生した場合に、現在の日本の法律をどのように適用できるのか、その考え方を整理したものです。
重要なのは、経済産業省自身が、AIにはブラックボックス性や自律性があり、民事責任について判断するための裁判例がまだ十分に蓄積されていないと説明していることです。
つまり日本でも、
「AIが事故を起こした場合は必ずこの人が責任を負う」
という単純なルールがすでに完成しているわけではありません。
さらに、この手引きには「AIエージェント」についての補論まで設けられています。経済産業省は、AIエージェントについて、個別の入力や指示を一つずつ受けなくても、一定の目的に向けて複雑な業務プロセスを自動化・効率化するシステムとして説明しています。
そして、従来のAIと比べてリスクが拡大したり、新しいリスクが現れたりする可能性が指摘されているとしています。
AIエージェント特有のリスク評価や管理方法については国際的にも検討が進んでいる段階で、技術や使い方によって状況が大きく異なるため、誰が責任を負うのかを現時点で一律に整理することは難しいとしています。これは今回のAnthropicの問題提起とも重なります。
2026年3月に改訂された「AI事業者ガイドライン」では、AIエージェントについて、
などを自律的な動作の中で行う可能性が挙げられています。また経済産業省は4月、AIエージェントを導入する企業向けのセキュリティ対策について、新たなガイドライン策定に向けた検討を始めました。
そこでもAIエージェントについて、意図しない不正なシステム操作やデータ漏えいを引き起こす可能性があり、侵害された場合の影響が大きくなるおそれがあるとしています。AIが「文章を作る道具」から「実際に操作する道具」へ変わることを前提に、日本でも制度や安全対策の検討が始まっています。
残念ながら、
「必ずAI会社の責任」
あるいは、
「必ずAIを使った店の責任」
という答えにはなりません。
2026年9月30日時点では、具体的な契約関係やAIに与えられていた権限、開発・提供・利用それぞれの段階でどのような注意や安全対策が取られていたのかなどによって、個別に判断される問題です。日本でも経済産業省が現行法上の考え方を整理し始めていますが、裁判例の蓄積は十分ではありません。
したがって、
「AIが勝手にやったから誰にも責任がない」
とも、
「利用規約に免責があるからAI会社には絶対に責任がない」
とも、現時点で一律には言えません。
これは、地域の事業者にとっても意外と近い問題です。
今後AIエージェントが普及すれば、
「予約を管理して」
「在庫が減ったら発注して」
「広告費を調整して」
「取引先へのメールを送って」
といった仕事をAIへ任せる場面が増えるかもしれません。便利になる一方、AIにできることが増えれば、間違えたときに発生する損害も大きくなります。そこで重要になるのは、単に「どのAIを使うか」だけではなさそうです。
例えば、
こうした点も、AIを導入するときに確認する必要が出てきます。経済産業省も、AIエージェント導入企業向けに、ガバナンス、データ保護、ID・権限管理などを含むセキュリティ対策の検討を進めています。
今回確認できたのは、AIエージェントの能力が高くなるにつれて、「AIが何をできるか」だけでなく「AIが行動した結果を誰が引き受けるのか」も現実的な課題になってきたということです。Anthropicは、Reutersが確認したIPO目論見書の中で、AIエージェントがデータ削除や権限のない金融取引などの取り消しにくい行動を起こす可能性と、それによって重大で予測しにくい法的請求を受けるリスクを示しています。
一方、日本でも経済産業省が2026年4月、AIによる損害について現行法上の民事責任を整理した手引きを公表し、その中でAIエージェントを独立した論点として取り上げています。ただし、「AI事故なら誰が責任を負う」という一律の答えが確立したわけではありません。
むしろ、AIが自分で考えるだけでなく、注文、予約、ファイル操作、金融取引など現実の行動までできるようになったことで、これまで以上に「どこまでAIに任せるのか」が重要になってきた、と考えた方がよさそうです。
AIに答えてもらう時代から、AIに仕事を任せる時代へ。
そのとき私たちは、便利さだけではなく、「その仕事の責任までAIに任せることはできるのか？」という問題にも向き合うことになりそうです。
※本記事は2026年9月30日時点で確認できた資料をもとにしています。法的責任は個別の事情によって異なります。本記事は一般的な情報整理を目的としたもので、個別案件についての法律上の判断を示すものではありません。
Reuters（2026年9月29日）
「Anthropic says rogue AI agents pose uncertain legal risk for the company」
https://www.reuters.com/legal/litigation/anthropic-says-rogue-ai-agents-pose-uncertain-legal-risk-company-2026-09-29/
経済産業省（2026年4月9日、6月更新）
「AI利活用における民事責任の解釈適用に関する手引き」
https://www.meti.go.jp/press/2026/04/20260409001/20260409001.html
経済産業省・AI事業者ガイドライン検討会（2026年3月31日）
「AI事業者ガイドライン 第1.2版」
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html
※取材時点の情報です。掲載している情報が変更になっている場合がありますので、詳しくは電話等で事前にご確認ください。
まいぷれ[東村山市・小平市・東大和市] 公式SNSアカウント
