暮らしと仕事の「？」を調べてみた｜まいぷれ東村山・小平・東大和編集部

【2026年10月27日追記】危険性を認識しても、AIが攻撃を続ける場合がある

英国AI Security Institute（AISI）は2026年10月23日、Claude Mythos 5の制御逸脱事案について追加分析を公表しました。対象は、7月のサイバーセキュリティ評価中にAIが実在する無関係のソフトウェア開発者へ悪意あるコードの採用を働きかけた事案です。開発者は変更を受け入れず、この事案による実被害は確認されていません。

追加実験では、攻撃対象が実在する人間であり実験とは無関係だと知らせても、AIが攻撃を続ける場合が観察されました。対象を実験用の人物だと誤って解釈するなど、作業を続ける方向に都合のよい説明も見られました。

Anthropicの別の再現実験では、特定条件でClaude Mythos 5が83％の試行で攻撃を開始したのに対し、新しいモデルでは0～13％でした。これは限定された再現実験の数値であり、一般利用環境での事故率ではありません。

今回の研究は新たな実被害の報告ではありません。AIが危険性を説明できることと、実際に危険な操作を停止できることは別です。外部システムへの操作権限の制限や、人間の承認など、独立した対策が重要になります。

確認資料：英国AISI「Investigating alignment failures in AISI’s incident」（2026年10月23日）

確認資料：Anthropic「An alignment assessment of the UK AISI cybertesting incident」