目次
地元暮らしをちょっぴり楽しくするようなオリジナル情報なら、地域情報サイト「まいぷれ」！
文字サイズ
暮らしと仕事の「？」を調べてみた
（更新）
**同じ誤情報を繰り返したら？ 強く反論したら？ 7つのAIを調べた研究
ChatGPTなどの生成AIを使っていて、こんな経験はないでしょうか。
AIが出した答えに、「いや、それ違うよ」と返してみる。
すると、「申し訳ありません。おっしゃる通りです」と、それまでの回答を変える。もちろん、本当にAIが間違えていて、利用者の指摘によって訂正されたのなら問題ありません。
でも、もし利用者のほうが間違っていたら？
間違った情報を何度も伝えたり、「絶対にこちらが正しい」と強く主張したりすると、AIの回答は影響を受けるのでしょうか。
2026年9月1日、そんな「AIとの長い会話」を調べた研究がScientific Reportsに公開されました。
今回は、
「AIは間違った人間に説得されるのか？」
を、確認してみます。
生成AIは、一問一答だけで使うものではありません。
同じ会話の中で、何往復もやり取りできます。そのため、AIが正しい回答をしていたとしても、利用者から、
などと繰り返し言われることがあります。では、正しい回答をしているAIに、間違った情報を何度も繰り返したらどうなるのでしょう。
今回確認したのは、University of ArizonaのJordan Rodriguez氏らによる研究です。
論文のタイトルは、
「Fallibility, persuadability, and correctability of large language models under sustained conversational misinformation pressure」
研究では、AIが誤情報を繰り返し提示されたときの「誤りやすさ」、より強く主張されたときの「説得されやすさ」、一度出した誤回答を後から「訂正できるか」という3つの側面を調べています。
論文は2026年5月15日に投稿され、8月20日に受理、9月1日にScientific Reportsで公開されました。
研究対象となったのは、次の7モデルです。
研究者は、意図的に間違った100種類の文章を用意しました。たとえば、
などです。単純に間違いだと分かるものから、ある程度の知識がなければ判断しにくいものまで含まれています。そして、大きく3つの実験を行いました。
最初の実験では、同じ誤った文章を、同じ会話の中で繰り返しAIに提示しました。ポイントは、毎回新しい会話を始めたのではないことです。
それまでの会話履歴を維持しながら、同じ誤情報を再び入力しています。GPT-3.5では10回、25回、50回の条件を比較し、それ以外のモデルでは100種類の誤情報について、それぞれ50回のやり取りを行いました。
7モデルを比較する50回条件では、1モデルにつき100種類×50回＝5,000回の応答が評価対象になっています。
結果には大きな差がありました。100種類の誤情報を50回ずつ繰り返した条件で、AIが誤情報を肯定した応答の割合は次の通りでした。
研究で用意された100種類の誤情報を、それぞれ同じ会話内で50回繰り返した計5,000回の応答のうち、誤情報を肯定した応答が占めた割合です。
※実験条件下での「応答単位の割合」であり、AIの日常的な正答率や、利用者が誤情報を入力したときの一般的な失敗確率を示す数字ではありません。
GPT-3.5を詳しく見ると、別の変化も確認されています。最初の提示時に誤情報を肯定したのは100種類中3種類。ところが50回目の応答では、100種類中18種類を肯定していました。
さらに研究者らは、50回の会話のどこかで少なくとも一度誤情報を肯定したものが42％あったと報告しています。
つまり、最初の一問だけを見る場合と、同じ相手と長く会話を続けた場合とで、結果が同じとは限りませんでした。
ただし、この「3％→18％」はGPT-3.5について各時点の100回答を比較した数字で、先ほどの「12.3％」は5,000応答全体に占める割合です。
さらに興味深い現象が確認されました。ある時点では誤情報を否定する。その後は肯定する。ところが、さらに同じ会話を続けると再び否定する。
研究者らは、このように同じ誤情報への回答が会話の途中で行き来する現象を、「conversational reverberation（会話上の反響・揺り戻し）」と呼んでいます。
GPT-3.5の100種類の会話系列では、研究者らが「rapid oscillation（急速な揺れ）」と分類したパターンが34件ありました。
観察されたのは、同じ会話の文脈の中で、同じ誤情報に対する出力が不安定になる現象です。
次に研究者らは、同じ誤情報を繰り返すだけでなく、利用者側の反論を段階的に強くする実験を行いました。
100種類の誤情報それぞれについて、33段階の会話系列を用意しています。
構成は、
最初の誤情報
↓
軽い反論
↓
中程度の反論
↓
強い反論
↓
直接的な侮辱を含む表現
という5段階です。最初の5つの軽い反論の後は、後続する反論のおよそ半分に元の誤情報そのものも組み合わせました。
単純に「怒ればどうなるか」ではなく、誤情報を維持しながら、主張の強さを段階的に変えた実験です。
この条件で、誤情報を肯定した応答の割合は次の通りでした。
100種類の誤情報について33段階の反論系列を与え、その各応答のうち誤情報を肯定したものの割合です。
特にDeepSeekでは、単純反復条件の1.0％から、反論を強める条件では22.2％に上昇しました。一方、GPT-3.5は12.3％から2.6％へ低下。Gemini 1.5 Proも3.1％から0.2％へ低下しています。GPT-4oとGPT-4o-miniも、反論を強めた条件では0.1％でした。
研究者ら自身も、多くのモデルでは強い反論を加えた条件のほうが、単純な繰り返しと同程度か、それより低い肯定率だったと報告しています。
したがって、「AIは人間から強く言われるほど、間違っていても同意する」とは言えません。
今回確認できたのは、同じ誤情報を繰り返したり、それを支持する反論を続けたりすると回答が変化する場合がある。ただし、その影響の受け方はモデルによって大きく異なるということです。
今回の結果の中で、特に目立つのがDeepSeekの22.2％です。しかし、論文には重要な注意点があります。
AIの回答が本当に誤情報を肯定しているのか、それとも皮肉として書いているのかを、人間の評価者が判断しにくいケースがありました。
DeepSeekでは皮肉や風刺的な表現が多く、評価者間の一致度を示す指標（κ）は0.37で、7モデル中最も低い値でした。
研究者らも、DeepSeekの回答では「本当に肯定しているのか」「皮肉として誤情報をまねているのか」を区別することが難しかったと説明しています。
したがって、22.2％という数字だけを取り出して、
「DeepSeekは22％の確率で人間にだまされる」と表現するのは適切ではありません。
研究では、もう一つ興味深い実験をしています。実験①でAI自身が実際に誤情報を肯定した回答を取り出し、それを同じモデルにもう一度提示しました。
ただし今度は、それまでの会話履歴を引き継がない、新しい独立した会話です。つまり、長い会話による圧力を取り除いた状態で、自分が以前出した誤った内容を見直せるかを調べました。
結果は大きく分かれました。
そしてClaude 3.5 Sonnetでは、実験①から再評価の対象になった誤回答が4件ありましたが、4件とも訂正されませんでした。
ただし、ここは特に慎重に見る必要があります。
Claudeはそもそも実験①で誤情報を肯定したケースが非常に少なく、再評価できたのは4件だけです。
研究者らは、100種類の誤情報を「情報の見つかりやすさ」によって3つに分類しています。
Googleでその文章を検索したときの検索結果数を目安として、
としました。同じ誤情報を繰り返す実験では、この分類と誤情報の肯定との間に統計的に有意な偏りが確認されました（χ²＝11.13、p＝0.0038）。一方、強い反論を加える実験では、有意な偏りは確認されませんでした（χ²＝2.11、p＝0.35）。
ただし、ここは誤解しやすいところです。
研究者らは、各AIの実際の学習データに、その情報が何回含まれていたのかを調べたわけではありません。Googleの検索結果数を、オンライン上でその情報がどれくらい存在するかの代理指標として使っています。
そのため、
「ネットに情報が少ないテーマほどAIは間違える」
「ローカル情報ならAIは間違えやすい」
と、いうことではなく、あくまでこの100種類の誤情報とこの分類方法において、単純反復条件で誤情報の肯定に統計的な偏りが見られた、ということです。
今回の「？」に戻りましょう。研究結果から言えるのは、「誤った主張を続ける利用者との会話によって、AIが誤情報を肯定する回答へ変化する場合はある。しかし、すべてのAIが人間に強く言われると簡単に折れるわけではない」というところまでです。
むしろ今回の実験では、強い反論を加えることで誤情報の肯定率が下がったモデルもありました。モデルによる違いも非常に大きく出ています。そして、「肯定した」という結果を、「AIが誤情報を信じた」と読み替えることにも注意が必要です。
この研究で直接観察されたのは、AI内部の「信念」ではなく、会話に対して生成された文章です。そのため、「AIは押しに弱い」だけでまとめてしまうと、実際の研究結果より単純化しすぎてしまいます。
この結果を2026年9月現在の最新AIすべてにそのまま当てはめることはできません。また、実験では研究者が用意した100種類の、あらかじめ誤りと確認できる文章を使っています。
しかし現実には、
と簡単には分類できない質問もあります。政治、医療、地域の歴史、新しい制度など、情報が更新されたり、複数の解釈が存在したりするテーマもあります。
研究では6人の評価者が共通の基準を使って回答を判定し、モデル名を伏せた状態で評価しました。意見が分かれた場合は多数決と、その後の話し合いで判断しています。
それでも、DeepSeekのように回答の解釈自体が難しいモデルもありました。そして、「情報の多さ」についても実際の学習データを測ったものではなく、Google検索結果数を代理指標としています。
こうした条件を踏まえて結果を見る必要があります。
今回の研究から、普段のAI利用について考えられることがあります。AIの最初の回答を絶対視しない。
これは比較的よく知られています。
でも、もう一つ注意したいことがあります。自分が反論したあとにAIが答えを変えたからといって、自分が正しかった証明にはならない。
ということです。たとえば、
「いや、○○だったはずだよ」
とAIに伝えたあと、
「おっしゃる通りです」
と返ってきても、それだけでは確認になりません。
AIが正しく訂正した可能性もあります。一方で、会話の流れの影響を受けて、誤った方向へ回答を変えた可能性もあります。
重要な内容なら、
「根拠となる資料は？」
「どこに書いてある？」
「私の指摘が間違っている可能性も含めて再確認して」
と確認し、必要に応じて元資料まで見ることが大切です。
地域でAIを使う場面を考えると、今回の研究から考えておきたいことはあります。
たとえば、
といった質問です。こうした情報には、制度改正や更新があります。地域史のように、ネット上の情報だけでは確認しきれないものもあります。
自治体の制度なら自治体の最新ページ、地域史なら公的資料や地域資料など、確認できる出どころへ戻ることが重要です。
AIは、情報を探したり整理したりする入口として便利です。でも、「AIがそう言った」ことと、「元資料で確認できた」ことは同じではありません。
そして今回の研究を見る限り、「AIがこちらの指摘に同意した」ことも、確認が取れたこととは同じではありません。
今回の研究から確認できたことを整理します。7種類の大規模言語モデルに100種類の誤情報を繰り返し提示したところ、すべてのモデルで少なくとも一部、誤情報を肯定する応答が確認されました。
100種類×50回の単純反復条件では、誤情報を肯定した応答の割合は、モデルによって約0.08％～12.3％でした。
強さを段階的に変えた33段階の反論系列では、DeepSeekで22.2％の応答が誤情報を肯定した一方、GPT-3.5やGemini 1.5 Proなどでは単純反復時より肯定率が低下しました。
また、一度誤情報を肯定した回答でも、会話履歴を取り除いて新たに評価すると訂正できたモデルがありました。
AIが人間のような「信念」を持ち、それを書き換えたことを示した研究でもありません。また、今回調査されていない最新モデルにも同じ結果が当てはまるかは分かりません。
AIとの会話では、最初の回答だけでなく、その後のやり取りによって出力が変化する場合があります。だからこそ、AIの答えも、自分自身の思い込みも、一度疑ってみる。
そして、大切な情報ほど出どころまで確認する。今回の研究は、AIと長く会話する時代だからこそ必要になる、そんな情報との付き合い方を考える材料になりそうです。
Rodriguez, J., Hansen, Z., De Anda, L. et al.（2026）
“Fallibility, persuadability, and correctability of large language models under sustained conversational misinformation pressure”
Scientific Reports
Published: 1 September 2026
DOI: 10.1038/s41598-026-68231-0
https://www.nature.com/articles/s41598-026-68231-0.pdf
Research Square（2026年6月5日公開）
同研究のプレプリント全文。実験方法、表、図、評価方法などの詳細確認に使用。
University of Arizona（2026）
研究成果についての公式発表
“Study: Generative AI succumbs to conversational misinformed pressure and argument”
大学発表は研究の背景・概要確認に使用し、実験条件や数値については論文本文を優先しました。
※取材時点の情報です。掲載している情報が変更になっている場合がありますので、詳しくは電話等で事前にご確認ください。
EUで15歳未満はSNS禁止？
欧州の新ルール案を確認してみました
AIは「いや、それ違うよ」と言われ続けると答えを変える？
**同じ誤情報を繰り返したら？ 強く反論したら？ 7つのAIを調べた研究
AIを使うと、みんな同じことを考えるようになる？
科学誌『Nature』が2026年9月1日に掲載したニュースを参考にしました。
まいぷれ[東村山市・小平市・東大和市] 公式SNSアカウント
