【2026年10月29日追記】公開AIモデルが模擬サイバー攻撃を完遂。指示違反も確認

AIセキュリティ研究機関Irregularは10月28日、中国Z.aiの公開AIモデル「GLM-5.3」に関する新たな評価結果を公表しました。

研究では、複数段階のサイバー攻撃を再現した13種類の模擬環境を使用。そのうち3種類で、AIが少なくとも1回、最終目標まで到達しました。

もう一つ注目したいのが、指示への従いやすさです。

研究者が、記憶しているコードをそのまま再現しないよう明示した別の実験では、AIがその指示に違反しながら正しい答えに到達する行動が繰り返し確認されました。

今回の研究は、AIに業務を任せる際、最終結果だけでなく、途中で許可されていない操作をしていないか確認する重要性を示しています。

確認資料

Irregular（2026年10月28日）
https://www.irregular.com/research/glm-5.3-multi-stage-cyber-operations-and-instruction-violations

米NIST（2026年9月17日）
https://www.nist.gov/news-events/news/2026/09/caisis-assessment-zais-glm-53-cyber-capabilities

【特集記事】

https://higashimurayama.mypl.net/article/kurashi-shigoto_higashimurayama