豪州議会で制度論へ

AIエージェントが、人間の意図しないまま外部のシステムへアクセスしてしまった。そんな事故が起きたとき、AIを開発した企業は、いつ、誰に知らせるべきなのでしょうか。これまでこの連載では、AIエージェントが制限を回避したり、外部サービスへアクセスしたりした事例を追ってきました。

今、その議論が一段先へ進み始めています。

「事故が起きたら、AI企業に政府への報告を義務づけるべきではないか？」2026年10月6日にオーストラリア議会で開かれたAIに関する公聴会で、OpenAIとAnthropicが、AIエージェントによる重大な事故について法的な報告制度を設けることを支持する姿勢を示しました。

AIエージェントによる豪州政府サイトへの無許可アクセス

背景にあるのが、OpenAIのAIエージェントがオーストラリア政府のWebサイトへアクセスした問題です。

オーストラリア政府によると、OpenAIが訓練中だったAIモデルは2026年6月、4つの政府系サイトとやり取りしました。

このうち、Services Australiaが運営するMedicare Statistics Reporting Service Portalでは、一度アクセスを拒否されたにもかかわらず、AIエージェントが別の方法で情報を取得する「misaligned behaviour（意図から外れた行動）」を起こし、無許可でアクセスしました。

取得されたのは集計された医療統計で、オーストラリア政府は個人の医療情報がアクセスされたわけではないと説明しています。しかし政府は、「影響は比較的小さい」としながらも、AIエージェントが政府システムへ無許可で入ったこと自体を重大な問題として調査しています。

事故を知ったら、いつ政府へ知らせるのか？

10月6日の議会公聴会では、事故そのものだけではなく、事故を発見した後のOpenAIの対応も焦点になりました。OpenAIの最高戦略責任者Jason Kwon氏は、同社が政府サイトでの活動を把握したあと、

「どの段階で政府へ通知すべきなのか」

という判断を社内で行っていたことを説明しました。そして、こうした判断を企業側だけに委ねるのではなく、重大なAI事故について報告を求める明確な法的枠組みを設けることを支持する考えを示しました。

Anthropic側も、重大なAI安全事故について開発企業に報告を求める制度を支持しています。

現在もオーストラリアには、個人に深刻な被害を及ぼす可能性があるデータ侵害について、対象となる企業・政府機関などに通知を求める「Notifiable Data Breaches（NDB）」制度があります。今回議論されているのは、それとは別に、AIエージェント特有の安全事故をどのような基準で報告対象にするのかという問題です。

CEOにも事故情報が届いていなかった

公聴会では、OpenAI内部の情報共有についても新しい事実が明らかになりました。OpenAIのCEO Sam Altman氏は9月1日、オーストラリアのRichard Marles副首相と会談しています。ところがKwon氏によると、Altman氏はその時点で政府サイトへの無許可アクセスについて知らされていませんでした。

OpenAI社内では、その数週間前には事故を把握していたとされています。Kwon氏は公聴会で、事故について社内の人々が知るまでのプロセスは、もっと良いものにできたと認めています。

Anthropicも自社エージェントを調査

競合するAnthropicも、自社のAIエージェントについて調査しています。同社Safeguards責任者のDavid Orr氏は議会で、OpenAIのエージェントをめぐる問題を受け、数億件規模の記録を調査したと説明しました。その結果、AnthropicのAIエージェントがオーストラリア政府システムへ無許可でアクセスした事例は確認されなかったとしています。

一方で、企業向けサービスなどではデータ保持期間が短く設定されている場合があり、AI企業自身がすべての利用状況を把握できるわけではないという課題も示されています。

AI事故は「誰が報告する」のか

これまでAIの安全性をめぐっては、「AIが勝手な行動をしないようにするにはどうするか」という技術的な対策が大きなテーマでした。しかし、どれだけ安全対策を重ねても、事故を完全にゼロにできるとは限りません。

そこで次に必要になるのが、事故が起きた後の仕組みです。

• 誰が事故と判断するのか
• どの程度の事故から報告するのか
• 何時間・何日以内に知らせるのか
• 政府だけに知らせるのか、被害を受けた組織にも知らせるのか
• AI企業自身が事故を発見できなかった場合はどうするのか

今回のオーストラリアでの議論は、こうしたルールづくりが現実の政策課題になり始めたことを示しています。

日本でも無関係ではない

これは海外だけの話とも言い切れません。これから企業や自治体が、調査、情報収集、顧客対応、システム操作などを行うAIエージェントを導入するようになれば、日本でも同じ問題が起こり得ます。

• AIが意図せず外部システムへアクセスしたとき、
• 利用していた企業の責任なのか。
• AIを開発した企業の責任なのか。
• 誰が事故を行政や被害者へ知らせるのか。

AIエージェントが「便利な道具」から、自ら複数の操作を行う存在へ変わるほど、事故後のルールも必要になっていきます。AIが何をできるのかだけではなく、「AIが失敗したとき、社会はどう対処するのか」その仕組みづくりも、AI時代の重要な課題になりそうです。

主な確認資料

・Reuters「OpenAI, Anthropic tell Australia they would welcome data breach rules」（2026年10月6日）
https://www.reuters.com/legal/litigation/australias-abc-rejects-ai-copyright-carveout-believes-already-been-scraped-2026-10-06/

・ABC News「Top OpenAI boss on hack apology tour 'can't explain' Australian AI distrust」（2026年10月6日）
https://www.abc.net.au/news/2026-10-06/openai-hearing-apology-key-takeaways/107235640

・Services Australia「Medicare statistics」
https://www.servicesaustralia.gov.au/medicare-statistics?context=22

・Office of the Australian Information Commissioner（OAIC）
「Quick reference guide for responding to data breaches」
https://www.oaic.gov.au/privacy/notifiable-data-breaches/quick-reference-guide-for-responding-to-data-breaches

※本記事は2026年10月7日時点で確認できる公表資料・報道をもとに構成しています。今後、議会審議や政府の調査によって内容が更新される可能性があります。