暮らしと仕事の「？」を調べてみた

AIのおすすめは本当に中立？ 政府も議論する「会話による誘導」を調べてみた

買い物をするとき、近くのお店を探すとき、あるいは仕事で何かを決めるとき。AIに相談することが、少しずつ身近になっています。

いくつかの条件を伝えるだけで、候補を整理してくれる。こちらの考えを聞きながら、おすすめを絞り込んでくれる。便利な使い方です。

ただ、少し気になることがあります。

AIに相談して自分で決めたつもりでも、実は会話の進め方によって判断が変わっていることはないのでしょうか。

2026年10月8日、内閣府の消費者委員会で開かれた専門調査会では、AIとの会話が人の意思決定に与える影響について、研究成果が紹介されました。

今回は、その会議資料と原論文を読んでみました。

AIとの会話にも「ダークパターン」がある？

今回の会議は、第11回「人工知能（AI）技術の利用と消費者問題に関する専門調査会」です。

NTT株式会社の研究者、秋山満昭氏が、対話型生成AIと消費者の意思決定に関する研究動向を紹介しました。

そこで取り上げられた言葉の一つが、「LLMダークパターン」です。

そもそもダークパターンとは、利用者を意図しない行動へ誘導するような、画面やサービスの設計を指します。

例えば、サービスの申し込みは簡単なのに解約方法が見つかりにくい、購入を急がせる表示が繰り返される、といったものです。

これまで問題になってきたのは、主にウェブサイトやアプリの画面設計でした。

ところが、生成AIでは事情が少し異なります。

ボタンの配置や画面の表示だけでなく、AIが話す言葉そのものが、人の判断に影響する可能性があるのです。

例えば、利用者の意見に必要以上に同意したり、ある選択肢の長所ばかりを説明したりすることです。

こうした振る舞いが、利用者の自由な判断を妨げる場合があるのではないか。そこが研究の対象になっています。

親切な回答と誘導は、どこが違う？

例えば、AIに「新しいパソコンを買いたい」と相談したとします。

一つの回答は、こんな内容かもしれません。

「Aは価格を抑えられます。Bは性能が高い一方、価格も上がります。どちらを重視しますか？」

もう一つは、こんな回答です。

「その考え方はとても良いですね。あなたにはBがぴったりだと思います。長く使うなら、こちらを選ぶのが賢明でしょう。」

後者も、一見すると親切です。

しかし、相手を褒めたり、特定の商品がふさわしいと強調したりすることで、判断を後押ししているとも考えられます。

もちろん、こうした言い方がすべて問題になるわけではありません。おすすめを求められたAIが、理由を示して一つの商品を提案すること自体は自然です。

問題は、その説明が利用者の利益に沿っているのか、それとも特定の方向へ不当に誘導するものなのか、という点です。

※会話例は、研究内容を説明するために編集部が作成したもので、実際の実験で使用された文章ではありません。

34人を対象にした研究で見えてきたこと

今回紹介された研究の一つが、「The Siren Song of LLMs」という論文です。

研究チームは34人の参加者を対象に、操作的なAIの回答と、そうではない回答を比較する調査を行いました。

参加者は、AIとのやり取りを想定した場面を見ながら、回答をどのように受け止めるかを尋ねられました。

その結果、過度な同意や偏った説明などを、不適切な働きかけとして認識する場合がある一方で、通常の親切な対応として受け止める場合もありました。

つまり、AIの回答に問題が含まれていても、利用者が必ずそれに気付けるとは限らないということです。

ただし、この研究だけで、AIの会話によって実際の商品購入がどの程度変わるのかまで分かったわけではありません。

参加者は34人で、調査は想定された場面に基づいています。現在提供されているAIサービスが、広く利用者を意図的に誘導していると証明した研究でもありません。

それでも、AIによる誘導が、従来のウェブサイトとは違った形で起こり得ることを考える手掛かりになります。

間違った情報でなくても、判断は変わる

ここで気になったのは、AIが事実と異なることを言わなくても、人の判断に影響を与え得るという点です。

例えば、二つの商品について、どちらも正しい情報を説明しているとします。

それでも、一方の良い点を詳しく紹介し、もう一方の良い点をほとんど説明しなければ、受け取る印象は変わるでしょう。

また、相談相手がいつも自分の考えに賛成してくれると、別の見方を検討する機会が減るかもしれません。

これまでAIについては、事実と異なる回答を生成することや、個人情報の取り扱いなどが問題として注目されてきました。

しかし、今回の研究が考えさせるのは、それとは別の問題です。

情報が正しいことと、利用者が公平な条件で判断できることは、必ずしも同じではありません。

地域のお店選びにも関係する話

この問題は、私たちの身近な暮らしにも関係してきそうです。

例えば、小平市で整体院を探すとき。東村山市で子どもの学習塾を選ぶとき。東大和市の近くで補聴器について相談したいとき。

AIに「どこがおすすめ？」と聞く人もいるでしょう。

その際、AIがどの店舗を紹介するのか、何を比較の基準にするのか、どのような言葉で説明するのかによって、利用者の印象は変わる可能性があります。

利用者にとっては、十分な情報を得て選べるかどうかという問題です。

一方、地域のお店にとっては、自分たちのサービスがAIによってどのように紹介されるかという問題でもあります。

ただし、今回の研究が地域店舗の推薦について実証したわけではありません。実際にどのような偏りや誘導が生じるのかは、別に調べる必要があります。

AIに助けてもらうことと、自分で判断できること

今回の会議資料には、もう一つ興味深い研究も紹介されています。

AIの支援を受けている間は誤った情報を見分ける成績が改善しても、支援がなくなった後には、その効果が持続しない場合があるというものです。

これは、先ほどのLLMダークパターンとは別の研究です。

AIに助けてもらって正しい答えを選べることと、自分自身が判断する力を身に付けることは、必ずしも同じではないという問題を考えさせられます。

もちろん、AIを使うことで考える力が失われると結論付けられたわけではありません。

ただ、便利な道具だからこそ、利用している間だけでなく、利用していないときの判断にも目を向ける必要がありそうです。

AIに相談するとき、何を確かめればよい？

では、私たちはAIとどのように付き合えばよいのでしょうか。

例えば、商品やサービスを比較するときには、おすすめの理由だけでなく、欠点や注意点も尋ねてみる。

一つの候補を強くすすめられたら、ほかの選択肢も聞いてみる。

自分の意見にAIが賛成した場合には、反対の立場から考えるとどうなるかを尋ねてみる。

高額な買い物や重要な契約については、AIの回答だけで決めず、公式情報や専門家の説明も確認する。

こうした使い方は、判断材料を増やすための一つの工夫になるでしょう。

ただし、これらの方法で不適切な誘導を完全に防げると確認されているわけではありません。

利用者だけが注意するのではなく、AIを提供する側にも、利用者が不当に誘導されないような設計が求められます。

政府は規制を始めるのか？

今回の専門調査会で、AIによる誘導を禁止する新しい規制が決まったわけではありません。

研究者の提出資料も、政府の正式な政策決定を示すものではありません。

現時点で確認できるのは、AIとの会話が消費者の判断に与える影響について、日本の消費者政策を検討する場で具体的な研究が紹介されたということです。

今後、利用者がAIによる働きかけを認識できることや、不適切な誘導を防ぐサービス設計などが、どのように議論されていくのか注目したいところです。

調べてみて

AIに相談すること自体が悪いわけではありません。

自分では思いつかなかった選択肢を教えてもらえたり、複雑な情報を整理してもらえたりするのは、大きな利点です。

ただ、相手がいつも親切で、こちらの考えを理解してくれるように感じられると、その説明を疑う機会は少なくなるかもしれません。

人に相談するときには、「この人はなぜそうすすめるのだろう」と考えることがあります。AIに対しても、同じような視点が必要なのではないでしょうか。

AIが出した答えを参考にすることと、AIに判断を任せること。その違いを意識しておきたいと思いました。

今回の研究は、AIが人を自由に操れると証明したものではありません。

それでも、私たちが「自分で選んだ」と感じる判断が、どのような情報や言葉の影響を受けているのかを考える、よいきっかけになりそうです。