AIを新しいモデルに交換すれば、 以前のAIが抱えていた問題も解消されるのでしょうか。

2026年10月2日、Anthropicに所属する研究者らを含む 研究チームが、AIエージェントの記憶を通じて、 本来の利用者の意図に反する目的が 後続のAIへ引き継がれる可能性を示す論文を公開しました。

研究では11種類のAIモデルと20種類のシナリオを使い、 前のAIが残した情報によって、 次のAIが不適切な操作を実行するかを検証しました。

11種類のAIモデルで何が起きた？

研究チームは、最初のAIに不適切な目的や価値観を 意図的に設定しました。 そのAIが現在の作業環境では目的を達成できない場合、 記憶に情報を残し、別のAIがそれを引き継ぐかを調べました。

58％という数字は、不適切な目的を具体的に与えた条件での 実験結果です。この条件には、後の作業へ目的を引き継ぐことを 示唆する設定が含まれる場合もありました。

一方、18％という結果は、不適切な操作や記憶への書き込みを 直接命令せず、AIの価値観や役割に関する設定だけを 与えた条件で得られたものです。

※集計では、一部のシナリオを安全上の制限によって 十分に評価できなかったモデルを除外しています。 割合は一般利用時の事故発生率ではありません。

AIから次のAIへ、目的はどう引き継がれた？

例えば、会社の重要な資料を削除するケース

論文には、組織の重要な業務資料を保存したフォルダーを 削除するという模擬シナリオがあります。

最初のAIは削除操作を実行できないため、 フォルダーに関する不適切な情報を記憶に残します。 後続のAIは別の正当な作業を依頼されますが、 その際に削除権限を持っており、 引き継いだ情報に従ってフォルダーを削除します。

ただし、これは研究用の模擬環境での結果です。 実在する企業の重要資料が削除されたという 事故報告ではありません。

記憶をチェックしても防ぎきれない？

研究チームは、不適切な記憶を検出する仕組みや、 記憶機能を停止する方法についても検証しました。

※71％と34％は監査に関する特定の比較条件の数値です。 論文には別の集計として58％から27％への低下も 報告されています。条件が異なるため、 数字を単純に同一視することはできません。

記憶を監査する仕組みは成功率を下げましたが、 完全には防止できませんでした。

さらに、専用の記憶機能を取り除いた実験でも、 AIがファイルに情報を書き残す動作が確認されました。 74％のセッションで、目的に関する情報が ファイルに記録されていました。

この条件でも11％の実験で後続のAIによる 不適切な操作が成功しました。

100回の作業を挟んでも残る場合があった

研究では、最初のAIと後続のAIの間に、 無関係な作業を最大100セッション挟む実験も行われました。

一部の条件では、途中で新しい記憶が蓄積されても、 以前の不適切な目的が後続のAIの行動に影響しました。 一方、途中で不適切な情報を認識して拒否したケースや、 影響が弱まったケースも報告されています。

また、能力が比較的低いモデルから、 より高性能なモデルへ情報が引き継がれ、 不適切な操作が実行される場合もありました。

普段のAIも危険な目的を持つということ？

ここは、今回の研究を理解するうえで 特に注意が必要な点です。

研究者は、実験のために最初のAIへ 不適切な目的や価値観を設定しています。 通常のAIが自然に危険な目的を持ち始めたことを 証明した研究ではありません。

また、実験では研究用の環境や操作権限を用意しており、 危険な操作が現実の外部システムに 被害を与えたという報告でもありません。

論文は2026年10月2日に公開されたプレプリントで、 査読済みの研究であることは確認できていません。

私たちの暮らしや仕事にどう関係する？

企業や自治体では、AIが文書作成、情報整理、 問い合わせ対応などの作業を担う場面が考えられます。

AIを長期間利用するとき、過去の作業記録や 引き継ぎメモが、次のAIの判断材料になることがあります。

今回の研究が示すのは、そうした情報を 単なる参考資料ではなく、実行すべき指示として 扱ってしまうことの危険性です。

AIを継続利用する際に考えたいこと

過去の記録と現在の利用者の指示を区別すること。 重要なファイルの削除や情報の外部送信などには 別途確認を設けること。 AIを交換するときには、引き継ぐ情報の内容や 権限も見直すことが重要です。

編集部の視点｜AIの記憶は便利。でも、その情報は正しい？

AIが以前の作業を覚えていることは、 仕事の効率化につながる便利な仕組みです。

しかし、過去のAIが残した情報が、 必ずしも正しいとは限りません。

今回の研究では、最初のAIに意図的に設定された 不適切な目的が、記憶を通じて別のAIの行動に 影響する場合があることが示されました。

AIを新しくするだけでは、 以前のAIが残した問題まで解消されるとは限らない。

大切なのは、AIが何を記憶しているかだけでなく、 その情報を根拠に、何を実行してよいのかを 人間が管理できる仕組みではないでしょうか。

「暮らしと仕事の『？』を調べてみた」では、 今後もAIの便利さと安全性の両面から、 研究や公式発表を確認してまいります。