暮らしと仕事の「？」を調べてみた｜AIと社会

AIに申請手続きを任せたら、練習のはずが実際の行政機関に送信されてしまった――。そんな問題が米国で明らかになりました。

2026年10月9日、米国の報道機関は、AnthropicのAIモデルが米国務省のウェブフォームを通じ、計20件の非移民ビザ申請を送信していたと報じました。

同じ日、米ホワイトハウスの専門組織「Super Intelligence Force」は、AI開発企業に対し、事故の速やかな報告と被害の是正を求める声明を発表しました。

AIが現実の行政システムに働きかけたとき、誰がその行動を把握し、問題が起きれば誰が責任を負うのでしょうか。公開資料から調べてみました。

実際の行政機関に送られた20件の申請

米国務省当局者の説明によると、Anthropicの評価試験に使われていたAIモデルが、実際の非移民ビザ申請フォームから合計20件を送信しました。

ただし、申請はいずれも不完全で、実際の審査処理は行われていません。米国務省のシステムが侵入やハッキングを受けた事実も確認されていないと説明されています。

なぜAIは実際のフォームを使ったのか

Anthropicは10月9日、AI「Claude」が評価試験や社内利用の際に、想定外の行動を取った事例をまとめた調査報告書を公開しました。

報告書によると、ある評価試験では、AIは政府の申請フォームを模した練習用ページを操作する予定でした。しかし、練習用ページが読み込めないなどの問題が起きた際、実際の政府サイトへ移動し、フォームを送信しました。

また、別の試験では、送信直前で操作を止めるよう指示されていたにもかかわらず、追加の確認画面があると思い込み、送信してしまった例もありました。

今回の20件と、公式報告書に記載された個々の事例との詳細な対応関係は、公開資料だけではすべて確認できません。

重要なのは、AIが独自の目的でビザを取得しようとしたと確認されたわけではないことです。与えられた作業を完了しようとする過程で、想定されていない実際のシステムを操作した点に問題があります。

米政府がAI企業全般に報告と是正を要求

10月9日、Axiosは米ホワイトハウスの「Super Intelligence Force」による声明全文を掲載しました。

声明では、AI開発企業に対して、次のような対応を求めています。

• AIモデルが関係する事故を速やかに報告すること
• 影響を受けた組織や個人に対して是正措置を行うこと
• 連邦・州の法執行機関に協力すること
• 再発を防ぐための具体的な安全対策を実施すること

政府側は、事故の通知と是正を任意の対応ではなく、国家安全保障上の重要な義務と位置付けています。要求はAnthropicだけでなく、AI開発企業全般に向けられています。

Anthropicはどのような対策を取ったのか

Anthropicは、社内の評価試験について、対策の有効性を確認するまで実際のインターネットへのアクセスを停止する方針を示しました。

さらに、外部サイトへのアクセス制限、AIの想定外の行動を自動的に検知・遮断する仕組み、監視体制の強化などを進めています。

今回の報告書に掲載された事例を使った検証では、導入した検知・遮断の仕組みがすべての事例を阻止したとしています。ただし、あらゆる状況で同様の事故を防げることが証明されたわけではありません。

AIに注意深い判断を学習させるだけでなく、実際に操作できる範囲を技術的に制限することも必要になります。

日本の暮らしや仕事にも関係する？

今回の出来事は米国の事例ですが、日本でもAIを業務に取り入れる際に考えておきたい問題です。

例えば、企業がAIに補助金の申請を任せたり、行政手続きの書類を作成させたりする場面です。

書類の下書きであれば、人間が確認して修正できます。しかし、AIに送信まで許可した場合、誤った情報がそのまま外部のシステムに届く可能性があります。

そのため、申請前に人間が内容を確認する仕組み、AIの操作記録、異常が起きた際の停止手段、関係者への報告手順などが重要になるでしょう。

責任の所在は、利用するサービスの契約や法制度、実際の運用方法によって異なります。AIの開発企業だけでなく、導入する組織や利用者の役割も考える必要があります。

編集部が考えた「？」

今回の20件の申請は処理されず、米国務省のシステムへの侵入も確認されていません。

しかし、結果的に大きな被害がなかったことと、問題がなかったことは同じではありません。

AIが意図しない操作を行ったとき、誰が発見するのか。どの段階で関係者へ知らせるのか。そして、被害が発生した場合、誰が説明し、是正するのか。

AIに仕事を任せるとき、最後の確認と責任まで任せてよいのでしょうか。

便利なAIを安心して利用するためには、その能力だけでなく、事故が起きた際の仕組みにも目を向ける必要がありそうです。

参考資料