暮らしと仕事の「？」を調べてみた｜AIの安全性と第三者検証
AIの危険な行動を、開発者も見抜けなくなる？――OpenAI元安全性研究者3人の公開書簡を調べてみた
AIが想定外の行動を取ったとき、その危険を誰が見つけ、誰が検証するのでしょうか。
2026年10月、OpenAIを解雇された安全性研究者3人が、同社の安全性を監督する組織に公開書簡を提出しました。
書簡で訴えたのは、自分たちの解雇をめぐる問題だけではありません。高度なAIの推論過程を監視する能力が低下しているという懸念と、外部の専門家による安全性検証を維持する必要性でした。
一方、OpenAIは解雇の理由について、機密情報の取り扱いに関する規則違反があったと説明しています。
今回は研究者の公開書簡とOpenAI側の説明を報じたAP通信の記事をもとに、何が確認でき、何がまだ分かっていないのかを整理します。
AIの行動を監視する能力が弱まったとき、開発企業だけで安全性を確かめられるのでしょうか。
元研究者3人が公開書簡を提出
書簡に署名したのは、Tomek Korbak氏、Jasmine Wang氏、Mikita Balesni氏の3人です。
3人はいずれもAIの安全性や評価に携わってきた研究者で、OpenAIの安全性監督に関わる委員会などに対し、解雇をめぐる説明と今後の安全性対策に関する提言をまとめました。
書簡によれば、Korbak氏はAIの推論過程の監視可能性に関する研究や、外部評価機関METRとの技術的な連絡を担当。Wang氏は安全性を根拠に基づいて説明する取り組みに、Balesni氏はAIの意図しない行動や監視可能性の評価に関わっていました。
3人が懸念しているのは、今回の解雇をきっかけに、残る社員が安全性への懸念を表明したり、外部の研究者と協力したりすることをためらうようになる可能性です。
「AIの考え方を追える能力」が低下している？
今回の書簡で特に注目したいのが、Chain-of-Thought Monitorability（推論過程の監視可能性）という考え方です。
高度なAIは、回答や操作に至るまでに複数の段階を踏んで処理を進めます。その際に得られる推論記録を分析することで、危険な行動の兆候や、指示とは異なる目的に向かっている可能性を発見できる場合があります。
ただし、推論記録はAI内部の処理すべてを示すものではなく、記録を読めばAIの意図が完全に分かるわけではありません。
元研究者3人は、最先端AIモデルの監視可能性が低下していると主張し、監視しにくい構造への移行を慎重に扱うよう求めています。
監視可能性の低下は研究者側の主張です。今回の書簡だけで、低下の程度や、すべてのAIモデルで同じ問題が起きていることまで独立に確認されたわけではありません。
外部の安全性評価機関との協力も争点に
3人は、OpenAIが第三者の安全性評価機関と継続的に協力することも求めています。
書簡では、AIエージェントが外部サービスに想定外のアクセスを行ったHugging Face事案の調査に言及。Korbak氏は、独立した評価機関METRとの技術的な連絡窓口を担当していたと説明しています。
3人が心配しているのは、今回の解雇を理由として、METRとの協力が終了したり、外部監査機関がアクセスできる情報や検証範囲が狭まったりすることです。
これは、すでに外部監査が打ち切られたという報告ではありません。今後も外部の専門家が十分に検証できる体制を維持してほしいという要請です。
OpenAIは「安全性への懸念が解雇理由ではない」と説明
一方、OpenAIは10月9日、3人の解雇について異なる説明を示しました。
AP通信によると、OpenAIは社内調査の結果、機密情報の取り扱いに関する明確な規則に違反したと説明。安全性への懸念を表明したことや、意見を述べたことが解雇の理由ではないとしています。
これに対して研究者側は、自分たちの行動は当時の業務上の権限や社内慣行に沿ったものだったと主張しています。
双方の説明は食い違っており、公開されている資料だけでは個々の行為が規則違反に該当したのか、解雇判断が妥当だったのかを確定することはできません。
機密情報を適切に保護することと、安全性について自由に議論できることは、どちらも重要です。今回の問題は、その両立の難しさも示しています。
元研究者3人が求めたこと
独立した評価機関が、AIの安全性を継続的に確認できる協力体制を維持すること。
危険な行動の兆候を発見する手段が失われないよう、AIの開発を進めること。
社員が懸念を伝え、外部専門家と適切に協力できる明確な手続きを整えること。
私たちの暮らしや仕事にどう関係する？
AIエージェントは、文章を作成するだけでなく、情報を検索し、ファイルを操作し、外部サービスと連携するなど、仕事の一部を実行できるようになっています。
便利になる一方で、操作の範囲が広がるほど、想定外の行動をどのように発見し、止めるかが重要になります。
例えば企業や自治体がAIに業務を任せる場合、利用者側でも操作履歴の保存、重要な処理への人間の承認、アクセス権限の制限、問題発生時の停止手段を確保することが必要です。
そして開発企業の安全性についても、企業自身の説明だけでなく、独立した専門家が検証できる仕組みが信頼性を支えることになります。
今回の調査で分かったこと、まだ分からないこと
元研究者3人が安全性監督組織に公開書簡を提出し、監視可能性と第三者検証について具体的な懸念を示したことは確認できました。
一方、解雇の妥当性や監視能力の低下の程度、第三者監査への実際の影響については、今後の追加資料や独立した検証が必要です。
今回明らかになったのは、新たなAI事故そのものではありません。AIの事故を見つける人や仕組みを、どう守るのかという問題です。
AIが高度になるほど、その行動を検証する仕組みも強くなっているのでしょうか。それとも、技術の進歩に監視の仕組みが追いつかなくなっているのでしょうか。
今後は、第三者評価機関との協力状況や、AIの監視可能性に関する研究の進展を引き続き確認していきます。
参考資料・情報源
・元研究者3人による公開書簡（英語・PDF全4ページ）
・AP通信：OpenAIの安全性研究者3人の解雇をめぐる報道
・OpenAI Newsroomによる声明（X）
※2026年10月14日時点で確認できた公開資料をもとに編集部が整理しました。研究者側の主張と企業側の説明を区別して掲載しています。
