暮らしと仕事の「？」を調べてみた｜世界AI重要事案

AIの安全性、公開資料で確認できるのはわずか3.6％

中国の主要AI企業9社が公開した857件のモデルを、米国の民間調査会社が調べました。

AIは日々進化し、仕事や暮らしのさまざまな場面に入り込んでいます。

しかし、私たちが使うAIについて、どのような安全性の検証が行われ、その結果がどこまで公開されているのでしょうか。

2026年10月8日、米国の技術調査会社SemiAnalysisが、中国の主要AI開発企業9社を対象とした独自調査を発表しました。

その結果、調査対象となった857件のモデル公開のうち、開発企業による具体的な安全性評価結果を確認できたのは31件でした。

ただし、この数字は「安全性評価を実施していないモデルの割合」ではありません。

今回明らかになったのは、安全性を判断するための検証結果が、外部からどれほど確認できるかという問題です。

どの企業を調査したのか

調査対象は、中国の主要AI開発企業9社です。

大手テクノロジー企業のByteDance、Alibaba、Tencent、Baiduと、AI開発企業のDeepSeek、Moonshot、Zhipu（Z.ai）、MiniMax、StepFunが含まれています。

調査期間は2021年から2026年9月15日まで。公開されたモデルを製品モデル741件、研究モデル116件に分類し、合計857件を調べています。

なお、モデルのサイズやバージョン違いも個別に数えられているため、857件は857種類の完全に独立した基盤モデルを意味しません。

857件の公開資料から見えたこと

評価結果が確認された31件のうち、16件ではモデル公開後に結果が公表されていました。公開から結果公表までの期間の中央値は42日だったと報告されています。

残る6件については、結果の存在は確認できたものの、公表時期や対象モデルとの対応関係を確定できませんでした。

「安全性を確認した」という説明だけでは足りない？

今回の調査では、モデルカード、公開時の説明、技術報告書などを確認しています。

開発企業が単に「安全性を評価した」「安全性を高める訓練を行った」と説明しているだけでは、評価結果が公表されたものとして数えていません。

有害な回答、制限の回避、個人情報の保護、危険な能力などについて、具体的な結果が示され、対象モデルと対応していることを条件としました。

つまり、安全性への取り組みを表明することと、外部の人が検証結果を確認できることは異なるという考え方です。

特に少なかった「危険な能力」の評価

原典では、有害な回答や不適切な要求への拒否に関する評価と比べ、サイバー攻撃への悪用や生物学的リスクなど、重大な危険につながる能力の評価結果が限定的だったと報告しています。

調査会社が確認した資料の中で、サイバー攻撃への悪用または生物学的リスクに触れていたのは3件でした。

AIの安全性は、不適切な文章を生成しないことだけでは判断できません。

AIが外部のツールやシステムを操作するようになれば、どのような能力を持ち、どこまで人間が制御できるかという問題も重要になります。

安全性評価を「公表していない」と「実施していない」は違う

開発企業によっては、企業秘密や悪用防止などの理由から、安全性評価の詳細を公開しない場合も考えられます。

一方、情報が公開されなければ、利用者や第三者が安全性の根拠を独立して確認することは難しくなります。

どの情報を公開し、どの情報を保護するべきかも、AI開発をめぐる重要な課題です。

日本の企業や自治体にも関係する問題

海外のAIモデルは、日本でも文章作成、翻訳、情報検索、プログラム開発、業務の自動化などに利用されています。

AIを導入する際には、性能や費用だけでなく、どのような安全性評価が行われ、結果が公開されているかを確認することも判断材料になります。

例えば、次のような点です。

• 使用するモデルのバージョンが明示されているか
• 安全性評価の方法と結果が公開されているか
• 個人情報や機密情報の取り扱いが説明されているか
• 問題が起きた際の報告や対応体制があるか
• 第三者による検証を受けられる仕組みがあるか

これらの情報がすべて公開されていれば安全というわけではありませんが、AIを選ぶ際の重要な確認項目になります。

今回の調査から考えること

AIの性能が向上し、利用できる場面が増える一方で、その安全性を外部から確認するための情報開示は、十分に追いついているのでしょうか。

今回の調査は、中国の主要9社について、その問いを具体的な数字で示しました。

ただし、これは中国だけに向けられるべき問いではありません。

米国、欧州、日本を含む世界中のAI開発企業について、どのような安全性評価を行い、その結果を誰が確認できるのか。

AIが暮らしや仕事の判断に深く関わるようになるほど、開発企業の説明だけでなく、検証可能な情報の重要性は増していくと考えられます。