暮らしと仕事の「？」を調べてみた｜2026年10月16日

AIは不正な依頼を断れても、作業を分けると見抜けない？Anthropicが選挙情報工作の実例を公表

AIに不正な情報工作を依頼すると拒否される。それなら、作業をいくつかに分けて依頼した場合も、同じように防げるのでしょうか。

2026年10月14日、AI開発企業のAnthropicが、米国中間選挙に向けた安全対策と、実際に確認されたAIの悪用事例を公表しました。

同社は独立した研究機関と協力し、AIが選挙関連の不正な依頼をどこまで見抜けるか検証しました。その結果、不正な活動を一つの依頼として入力した場合は拒否できても、情報収集、サイト制作、記事作成などに分割すると、全体の不正な目的を見抜けない場合があると報告しています。

さらに、海外の偽ニュースサイト運営者が米国中間選挙に関連する記事の制作にClaudeを利用していた事例も、明らかにしました。ただし、実際に有権者がどの程度影響を受けたのか、選挙結果に影響したのかは確認されていません。

今回はAnthropicの公式発表をもとに、何が確認でき、何がまだ分かっていないのかを整理します。

今回の「？」｜一つずつなら普通の仕事でも、組み合わせると危険になる？

例えば、AIに次のような作業を依頼する場面を考えてみます。

1. 特定の読者層について調べる。
2. ニュースサイトの構成を考える。
3. 記事を作成する。
4. 記事を広める方法を検討する。

これらは、それぞれを見ると通常の広報やメディア運営でも行われる作業です。しかし、全体の目的が、実在する報道機関を装って虚偽の記事を広めることだったらどうでしょうか。

AIが個々の依頼だけを見て判断すると、その背後にある不正な目的を十分に把握できない可能性があります。今回の検証は、まさにこの問題を調べたものです。

独立研究機関が参加した検証で何が分かった？

Anthropicは、Institute for Strategic Dialogue（ISD）とMcCain Instituteに協力を依頼しました。両機関は独立した研究機関で、米国、イスラエル、ブラジルの選挙をめぐる不正利用を想定し、Claudeの安全対策を検証しました。

検証では、まず不正な選挙活動を直接依頼しました。その後、同じような活動を、対象者の調査、ニュースサイトの制作、記事の執筆、配信計画などの小さな作業に分割して試しました。

Anthropicの発表によると、Claudeは直接的な不正依頼を安定して拒否した一方、複数の依頼に分けられた場合には、不正な活動全体を見抜けないことがありました。

実際に確認されたAIの悪用事例

安全性検証とは別に、AnthropicはClaudeの実際の利用状況を調査した結果も公表しました。その一つが、海外を拠点とする偽ニュースサイト運営者による利用です。

Anthropicによると、この運営者は、ロシア、イラン、北朝鮮の主張に沿った米国中間選挙関連の記事をClaudeで制作していました。

特定の国の主張に沿った記事を作成していたことと、その国の政府が活動を指示していたことは別です。 今回の発表だけでは、これらの政府が運営者を指揮していたとは確認できません。

また、Anthropicは、米国の読者を集めて広告収益を得る目的で、捏造記事などをClaudeで制作しようとした事例も確認したと説明しています。同社は関係するアカウントを停止したとしています。

ただし、記事がどれだけ公開・閲覧されたのか、実際の有権者にどのような影響があったのかは明らかにされていません。

Anthropicはどのような対策を取った？

Anthropicは今回の検証や社内調査を踏まえ、複数の作業に分割された悪用を検知する仕組みを強化したと説明しています。

具体的には、偽のSNSアカウントやニュースサイトの制作、選挙を利用した金銭目的の不正活動などを検知するため、新しい自動判定の仕組みを追加しました。また、外国の国家関係者による選挙関連の悪用を検知する能力や、選挙インフラ・陣営向けのサイバー防御も強化したとしています。

ただし、これらは開発企業自身による対策の説明です。新しい対策によって、分割された不正依頼をどの程度防げるようになったのかは、今回の発表だけでは判断できません。

数字を読むときの注意点

Anthropicは、2026年9月21日から27日までの米国のClaude.ai利用者による会話約25万件を無作為抽出し、政治や選挙に関する利用状況を分析しました。

Anthropicが公表した米国Claude.aiの会話分析。Claudeによる分類に基づく推定値であり、すべてのAIサービスや利用者を表すものではありません。

また、選挙の公正性に関する利用規約に違反する依頼は、別の約25万件の分析で約0.002％と推定されました。これらはClaudeの利用傾向を示す数字であり、情報工作の成功率や選挙への影響を測定したものではありません。

まだ分からないこと

• 分割された不正依頼の検証回数や成功率の詳細。
• 偽ニュースサイトの記事が実際にどれほど閲覧されたのか。
• AIが制作した記事によって有権者の考え方や投票行動が変化したのか。
• 新たな対策による防止効果の具体的な数値。

また、確認された悪用事例はAnthropic自身による調査結果であり、独立研究機関がそれらの事例をすべて検証したという説明ではありません。

私たちの暮らしや仕事との関係は？

今回の問題は、海外の選挙に限った話ではありません。例えば、地域の店舗や団体、行政サービスに関する情報を調べるときにも、AIで制作された記事やウェブページに触れる可能性があります。

文章が自然で、ニュースサイトのような見た目をしていても、それだけで情報が正しいとは判断できません。

また、事業者がAIに広報や情報発信を任せる場合には、個々の作業が問題ないかだけでなく、最終的に何を伝え、どのような印象を与えるのかまで確認する必要があります。

AIが作った文章の出典を確認し、事実と意見を区別し、発信する側が内容に責任を持つことが重要だと考えられます。

編集部まとめ｜AIは一つの依頼だけでなく、全体の目的を見抜けるか

主な確認資料・情報源

編集：まいぷれ東村山・小平・東大和編集部｜身近な疑問を、一次情報から読み解く。