AIで作られた偽動画を見つけたら、全部危険だと思った方がいい？

生成AIで、本物そっくりの画像や動画、音声を作れるようになりました。政治家が実際には言っていない政策を発表しているように見せたり、起きていない事件の映像を作ったりすることもできます。

では、こうした「AIによる偽情報」は、実際にはどのくらい社会へ害を及ぼす可能性があるのでしょうか。

英国のファクトチェック団体Full FactとUniversity of Westminsterの研究チームが、実際にインターネット上を流通したAI生成・AI改変の可能性がある偽情報112件を分析した研究結果を、2026年10月5日に公表しました。

研究は英国政府のAI Security Institute（AISI）のChallenge Fundによる支援を受けて行われています。

実際に流通した112件を調べた

研究対象となったのは、2025年1月1日から2026年3月31日までにFull Factが検証した、AIによって生成・改変された可能性のある偽情報112件です。動画や音声、画像などが含まれ、確認できる範囲だけでも合計で数千万回規模に閲覧されていました。

分析すると、112件のうち94件（83.9％）は、単なる細かな間違いではなく、それを信じた人に「実質的に誤った、または誤解を招く理解」を与える内容と判定されました。

一方で、研究チームがさらに「具体的な社会的な害につながる可能性」を評価すると、結果は少し違いました。

46件（41.1％）が、具体的な害を引き起こしたり、害の発生に寄与したりする実質的な可能性があると評価されました。

逆に66件（58.9％）は、そうした具体的な害につながる可能性が「ない、または限定的」と判断されています。

「41％で実害が起きた」という意味ではない

ここは、この研究を読むうえで非常に重要です。「英国で確認されたAI偽情報の41％が、実際に社会へ被害を起こした」という研究ではありません。研究チームが判定したのは、「実際に被害が発生したか」ではなく、偽情報の内容や閲覧状況、それを信じる人の存在、さらにその人たちが行動する能力や動機などを分析し、具体的な害につながるために必要な条件がそろっているかという点です。

研究者自身も、実際にその害が起きたことを証明するには、さらなる研究が必要だと明記しています。

どんな「害」が考えられた？

46件について研究チームが確認した潜在的な影響は、大きく8分野に分けられました。社会不安や自警的な暴力、深刻な嫌がらせ、オンライン詐欺などによる金銭被害、健康への被害、警察や司法への信頼・関わり方への影響、気候問題への態度と政策への影響、危険な陰謀論を信じやすくすること、そして政治・社会に対する態度への長期的な影響です。

つまり、「偽動画を見てすぐ事件が起きる」という直接的な害だけではありません。

同じような情報を繰り返し目にすることで、少しずつ社会や政治への認識が変化していく累積的な影響も含めて評価されています。

多かったのは「政治家のなりすまし」

112件のうち71件（63.4％）は、政治に関係する内容でした。中でも多かったのが、著名な政治家などが、実際には発表していない政策や出来事について話しているように見せるAI生成・改変コンテンツです。

研究期間中の英国首相だったKeir Starmer氏の声や姿をまねて、存在しない罰金や料金、公共サービスの値上げ、個人の自由を制限する政策などを発表したように見せる例が繰り返し確認されています。

政治家の行動や発言を誤って伝える内容だけで、112件中58件（51.8％）ありました。

AIらしい「変な手」だけでは見破れなくなっている

AI生成画像といえば、以前は「指の数がおかしい」「体の形が不自然」といった特徴が見分ける手掛かりになることがありました。今回の研究でも、こうした画像や音声の不自然さは112件中68件で確認され、AI利用を判断する最も多い手掛かりでした。

しかし、研究では別の重要な手段も使われています。電子的なウォーターマークです。112件中36件でウォーターマークが確認され、研究チームはこれをAI生成を示す最も強い証拠としています。そのうち18件はGoogle Geminiのウォーターマークで、13件は目で見ただけでは分からず、GoogleのSynthIDを使って初めて確認できました。

AI生成物が精巧になるにつれて、「見た目がおかしいからAI」と人間の目だけで判断することは、ますます難しくなっていることもうかがえます。

112件すべてが「AI製」と確定しているわけでもない

もう一つ注意したい点があります。今回の112件は、AI生成・AI改変の可能性があるとしてFull Factが検証したものですが、すべてについてAIが使われたことが確定しているわけではありません。

研究チームの分析では、AIの関与が明確に確認されたものは33件。さらに13件については「ほぼ確実」にAIが関与したと判断されています。残る事例には「非常に可能性が高い」「可能性が高い」「可能性がある」といったものや、AI利用の可能性を直接確定できなかったものも含まれています。

「100万回見られた＝最も危険」ではなかった

今回の研究で特に興味深いのが、閲覧数と害の大きさが単純には一致しなかったことです。112件のうち22件は100万回以上閲覧されていました。ところが、そのうち半数以上は、研究モデルでは具体的な害につながる可能性が「ない、または限定的」と評価されています。

反対に、英国の国会議員George Freeman氏がReform UKへ移籍するとする偽動画は、オンラインで確認された閲覧数が約2,000回にすぎなかったにもかかわらず、2025年12月3日の英国議会のPrime Minister's Questions（首相質疑）で取り上げられるところまで影響が広がりました。

大切なのは「誰が信じ、その人が何をできるか」研究で使われた評価モデルでは、偽情報について段階的に考えます。

• その情報が実質的に誤っているのか。
• それによって人の考え方や行動が変わった場合、現実の害につながるのか。
• その情報を十分な人数が見て、信じているのか。
• そして信じた人たちに、その害につながる行動を実際に起こす「能力」と「動機」があるのかを見ます。

これは、地域の情報を扱う私たちにとっても重要な視点ではないでしょうか。たとえば、「○○市で危険な事件が起きた」「学校が突然閉鎖される」「災害時にこの場所へ行けば物資がもらえる」といった偽情報が出たとします。

数百人しか見ていなくても、その中に実際に現場へ行動を起こす人が多ければ、地域では大きな混乱につながるかもしれません。

逆に、100万回表示された奇妙なAI画像でも、誰も本気で信じず、行動にもつながらなければ、具体的な害は限定的かもしれません。

AIフェイクを「全部同じ危険度」で扱わない

AIで偽情報を作ることが簡単になった今、「これはAIで作られたのか」を確認することはもちろん重要です。しかし今回の研究が示しているのは、その先にも考えるべきことがあるということです。

その情報は、何を誤解させるのか。

誰が信じているのか。

信じた人が行動すると、何が起きるのか。

そして、その人に実際に行動する能力や動機があるのか。

AI生成・AI改変の偽情報が増えていけば、すべてを同じ優先順位で検証することは難しくなります。だからこそ、「どれだけバズったか」だけでなく、現実の暮らしや社会へどうつながるのかを見極めることが、自治体や学校、企業、そして地域メディアにとっても重要になっていきそうです。

今回の研究は、「AIの偽情報は危険だ」という単純な結論ではありません。むしろ、AI偽情報の中でも、本当に急いで対応すべきものをどう見分けるのか。その判断方法を考えるための研究と言えそうです。

主な確認資料

・Full Fact / University of Westminster
「AI-Generated Misinformation in the UK: Harm, Context, and Classification」
https://fullfact.org/policy/reports/ai-generated-misinformation-in-the-uk-harm-context-and-classification/

・Full Fact（2026年10月5日）
「What’s the harm? Fact checking reveals the true scale of AI fakery」
https://fullfact.org/technology/fact-checking-reveals-the-true-scale-of-ai-fakery/

・UK AI Security Institute
https://www.aisi.gov.uk/grants