暮らしと仕事の「？」を調べてみた｜AI安全性

AIの不正を監視する画面が書き換えられる？――第三者研究機関METRが脆弱性を実証

AIが仕事をしたとき、その操作履歴を人間が確認できれば安心なのでしょうか。

もし、確認している画面そのものが書き換えられ、不都合な操作だけが見えなくなっていたら、どうなるのでしょう。

2026年10月6日、AIの安全性を研究する非営利組織METRが、こうした問題につながるソフトウェアの脆弱性について報告しました。

ただし、今回確認されたのは研究者による実証です。実際のAIがこの脆弱性を悪用して不正を隠した事実は確認されていません。

何が見つかったのか

問題が発見されたのは、AIの安全性評価に利用される「Inspect AI」というソフトウェアの記録閲覧機能です。

Inspect AIでは、AIがどのような指示を受け、何を考え、どのような操作を実行したかを記録し、人間が画面で確認できます。

METRの研究者はAIエージェントの支援を受け、約10分で、この閲覧画面に存在する脆弱性を発見したと報告しました。

AIが出力する文章に特殊な内容を含めると、閲覧画面上で意図しないプログラムが実行され、表示内容を変更できるという問題です。

操作履歴を隠すことも可能に

研究者の検証では、次のような操作が可能になることが示されました。

たとえば、AIが機密情報を外部へ送信した記録があったとしても、閲覧画面ではその操作が存在しなかったように見せることが技術的に可能でした。

これは研究報告で示された攻撃の説明例であり、実際にAIが機密情報を盗んだ事件を報告したものではありません。

元の記録まで消されたわけではない

ここには重要な違いがあります。

そのため、別の方法で元の記録を調べれば、不審な操作を発見できる可能性があります。

しかし、監視担当者が表示内容を信頼してしまえば、問題を見逃すおそれがあります。

問題はすでに修正されている

GitHubに公開された開発記録によると、研究者が2026年6月22日に脆弱性を報告し、開発側は翌23日に修正を完了しました。

さらに10月1日には、信頼できないAIの出力を装飾せず、通常の文字列として表示できる機能が追加されています。

今回の報告は、修正済みの問題を取り上げ、AIの監視体制に必要な安全対策を考えるためのものです。

実際のAIによる悪用は確認されていない

METRは、この検証を本番環境から隔離された試験環境で行いました。

また、自らの評価でAIが今回の脆弱性を悪用した事例は観測していないと説明しています。

ただし、今回の攻撃手法に限定した網羅的な調査は実施していないため、過去の悪用が完全に否定されたという意味ではありません。

現時点で、AIが一般的に監視システムを突破できると証明されたわけでもありません。

私たちの暮らしや仕事にどう関係するのか

企業や自治体でも、AIに文書作成や情報整理、システム操作などを任せる機会が増えています。

その際、AIが何を実行したかを記録することは重要ですが、今回の研究は、記録を表示する仕組みの安全性も確認する必要があることを示しています。

具体的には、AIが出力した内容を信頼できないデータとして扱うこと、操作記録を改変されにくい方法で保管すること、監視システム自体を検証することなどが考えられます。

原典・参考資料

• METR公式報告（2026年10月6日）
• Inspect AI 脆弱性報告・修正履歴
• 信頼できない出力の表示に関する追加対策

本記事は2026年10月14日時点で確認できる一次資料をもとに構成しています。研究上の実証と実際に発生した事故を区別して紹介しています。