AIは日々進化し、文章の作成や情報検索だけでなく、仕事の手順を考えたり、外部のサービスを操作したりすることもできるようになっています。

便利になる一方で、気になることがあります。

2026年10月8日、米国の技術調査会社SemiAnalysisが、中国の主要AI開発企業9社を対象に、安全性評価の公開状況を調べた結果を発表しました。

調査対象となった857件のモデル公開のうち、具体的な安全性評価結果を確認できたのは、わずか31件でした。

ただし、これは「残りのAIが安全性試験を受けていない」という意味ではありません。

今回の調査が問いかけているのは、AIの安全性そのものに加えて、その安全性を利用者や第三者が確かめられる仕組みがあるのかという問題です。

857件のうち、安全性評価の結果が公開されていたのは31件

SemiAnalysisは、2021年から2026年9月15日までに、中国の主要AI企業9社が公開したモデルを調査しました。

対象にはAlibaba、ByteDance、Tencent、Baiduの大手4社と、DeepSeek、Moonshot AI、Z.ai、MiniMax、StepFunの5社が含まれています。

調査では、各モデルの技術報告書やモデルカード、公開時の説明資料などを確認しました。

安全性評価結果の公開状況

※9件、16件、6件は31件の内訳です。10件、3件、813件は31件と重複しない別区分です。いずれもSemiAnalysisの公開資料調査に基づきます。

特に注目したいのは、モデルの公開時点までに評価結果が確認できたものが、全体の約1%だったという点です。

新しいAIが登場したとき、性能の高さや処理速度、利用料金は比較しやすくなっています。

しかし、危険な指示への対応や、情報漏えい、想定外の動作について、どこまで検証されているかを同じように比較できるとは限りません。

そもそも、AIの安全性評価とは？

AIの安全性評価には、さまざまな種類があります。

例えば、次のような問題を調べます。

• AIが危険な依頼に応じてしまわないか
• 安全対策を回避する指示に耐えられるか
• 個人情報や機密情報を不適切に出力しないか
• AIが許可されていない操作を行わないか
• サイバー攻撃などに悪用される能力がないか

今回の調査では、単に「安全性を考慮して開発した」「安全性試験を実施した」と説明するだけでは、評価結果を公開したとは認めていません。

どのモデルに対して、どのような試験を行い、どのような結果が得られたのか。

その具体的な情報が確認できることを条件としています。

つまり、企業の安全宣言ではなく、検証できる資料が存在するかどうかを調べたものです。

「公開していない」と「試験していない」は違う

安全性に関する公開情報が見つからなかった813件について、SemiAnalysisは、安全性試験そのものが実施されていなかったと断定していません。

企業が社内で試験を実施していても、その結果を外部に公表していない可能性があります。

また、調査対象にはモデルのサイズ違いや更新版なども含まれ、すべてが完全に独立したAIではありません。

そのため、今回の3.6%という数字を、AIの安全性そのものを示す割合として受け取ることはできません。

一方で、利用者の立場から考えると、試験が実施されていても結果を確認できなければ、外部から安全性を判断する材料は限られます。

安全性を確かめることと、確かめた結果を社会に説明することは、別の課題なのです。

中国ではAIの危険性を認識していないのか？

そう単純には言えません。

SemiAnalysisが取り上げた中国の「AI安全ガバナンス枠組み3.0」では、AIが許可されていない権限を取得したり、安全対策を回避したり、評価者を欺いたりするリスクが扱われています。

つまり、中国の安全性に関する議論でも、AIの制御や危険な能力は重要な問題として認識されています。

一方、SemiAnalysisは、中国の規制がAIを利用したサービスや出力内容の管理に重点を置く一方、先端モデルの危険な能力について、一定の条件に応じて評価と結果公開を義務づける仕組みは十分に整っていないと分析しています。

ただし、これは調査会社による制度分析であり、中国のAI企業が安全性研究を行っていないという意味ではありません。

実際、中国国内にも、AIの危険な能力を評価する研究機関や安全性管理の枠組みが存在します。

これは中国だけの問題なのか？

今回の調査は中国の9社を対象としており、米国や欧州のAI企業を同じ方法で比較したものではありません。

したがって、中国企業だけが安全性に消極的であると結論づけることはできません。

むしろ、AIの安全性評価を誰が行い、その結果をどこまで公開するのかという問題は、世界中のAI開発企業に共通しています。

• 開発企業が自ら実施する試験だけで十分なのか。
• 第三者が独立して検証できる必要はないのか。
• 危険な能力が見つかった場合、公開延期や利用制限の判断は誰が行うべきなのか。

AIの開発競争が進むほど、こうした問いの重要性は高まっていきます。

私たちの暮らしや仕事には、どう関係する？

AIを利用するのは、大企業や研究機関だけではありません。

地域の中小企業でも、問い合わせ対応、文章作成、予約管理、顧客情報の整理など、さまざまな仕事でAIの導入が進む可能性があります。

例えば、AIに顧客情報を扱わせたり、予約システムを操作させたりする場合、単に回答が正確かどうかだけでは十分ではありません。

許可された範囲を超えて情報にアクセスしないか、間違った操作を実行しないか、問題が起きたときに記録を確認できるかといった点も重要になります。

AIを選ぶ際に確認したいこと

• 安全性評価の内容と結果が公開されているか
• 個人情報や機密情報の取り扱いが明示されているか
• 外部サービスを操作する際に権限を制限できるか
• 重要な操作に人間の確認を挟めるか
• 問題発生時の報告・対応窓口が用意されているか

もちろん、安全性評価の結果が公開されているからといって、そのAIが絶対に安全だという保証にはなりません。

また、公開資料が少ないからといって、直ちに危険だと判断できるわけでもありません。

大切なのは、何が確認されていて、何がまだ分からないのかを区別することです。

AIの安全性を、誰が確かめるのか

今回の調査で明らかになったのは、AIによる新たな事故ではありません。

AIの安全性を評価した結果が、外部からどの程度確認できるのかという、情報公開の実態です。

高性能なAIが次々と登場するなかで、私たちは性能の数字や便利な機能に目を向けがちです。

しかし、そのAIがどのような危険性を持ち、どこまで検証されているのかという情報も、本来は同じように重要なはずです。

今回の3.6%という数字は、中国の主要9社を対象に、一定の基準で公開資料を調べた結果です。世界全体のAI安全性評価の公開率を示すものではありません。

これからAIを利用する企業や自治体、そして私たち一人ひとりにとって、考えていきたい問題です。