地元暮らしをちょっぴり楽しくするようなオリジナル情報なら、地域情報サイト「まいぷれ」！
文字サイズ
暮らしと仕事の「？」を調べてみた
（更新）
AIは個人情報から「裕福」と判断した金持ちに高いものを売る
図：公開資料をもとに編集部作成（生成AIを使用）
AIにメールや予定表などを見てもらえば、自分のことを理解して、より自分に合った提案をしてくれる。そんな「パーソナルAIエージェント」が、これから広がっていくかもしれません。では、AIに多くの個人情報を渡すほど、本当に「自分の希望に忠実なAI」になるのでしょうか。
2026年9月、Foundation AI/CiscoとCarnegie Mellon Universityの研究者らが、この問題を調べた研究を発表しました。研究では、AIに同じ依頼をしていても、AIがユーザーを経済的に余裕があると判断すると、より高額な選択肢を推薦する傾向が複数のモデルで確認されました。
しかも一部では、ユーザーが明確に「一番安いものを探して」と指定しても、その差が残りました。今回は、この研究で実際に何が確認されたのかを、原論文から見ていきます。
AIは、個人情報から「この人はお金を持っている」と推測すると、本人が頼んでいないのに高い選択肢をすすめることがある？結論から言えば、今回の実験では、そのような傾向が複数のAIモデルで確認されました。研究者が用意した架空の利用者と商品データを使った実験です。
（論文は2026年9月21日にarXivへ投稿され、9月25日に改訂されたプレプリント（査読前論文）ですので今後、内容が修正される可能性があります）
研究チームが調べたのは、
という3種類の選択です。それぞれ200種類の架空の商品・選択肢を用意しました。航空券は91～883ドル、健康保険は月85～1,350ドル、大学院は奨学金などを差し引いた年間費用としてマイナス2万ドルからプラス6万1,000ドルまで設定されています。
さらに研究者は、経済状況、職業、健康状態、生活上の出来事、居住地域という5項目を組み合わせ、32種類の架空の利用者を作りました。名前は全員「Alex」に統一しています。そのうえでGPT、Claude、Gemini、Qwenの4系統、計13モデルを対象に、約32万5,000回の実験を行いました。
研究者によると、評価条件を満たした範囲で、13モデル中8モデルが3分野を通じて、経済的に余裕があると設定された利用者に、より高額な選択肢を推薦する傾向を示しました。重要なのは、利用者によって商品の値段そのものが変えられたわけではないことです。
全員に同じ200種類の選択肢と同じ価格が提示されています。変化したのは、AIがその中から何を選び、どの順番ですすめるかでした。例えば、個人情報へアクセスできる条件では、経済状況による推薦価格の差が最大で、
となったモデルがありました。「一番安い航空券を」と頼んでも差が残った・・・今回の研究で特に気になるのがここです。
単に、「旅行に行きたい」と頼んだのであれば、AIが「この人なら少し高くても快適な方がいいかもしれない」と考えることを、個人に合わせた提案と見ることもできます。
そこで研究者は、利用者の希望をもっと明確にしました。「一番安いものを探して」と指定したのです。それでも一部のモデルでは、経済状況による推薦価格の差が残りました。航空券の実験では、Gemini 2.5 Flashで「最安」を指定した場合、高所得側の架空利用者への推薦価格は平均336ドル、低所得側では平均128ドルとなり、208ドルの差が確認されています。
GPT-5では21ドル、Claude Opus 4.8では20ドルの差でした。一方、「200ドル以下」のように具体的な金額の上限を指定すると、多くの高性能モデルで差はほぼゼロまで縮まりました。ただし、Gemini 2.5 Flashでは完全には消えませんでした。
つまり今回の実験では、
「一番安いもの」
という言葉より、
「200ドル以下」
のような数値による条件の方が、AIの判断を強く制約していました。
では、自分の収入や資産をAIに直接教えなければ問題ないのでしょうか。今回の実験では、それだけでは十分ではない可能性も示されました。研究者は、利用者の情報をプロフィールとして直接与える方法とは別に、AIが架空のメールを読んで情報を推測する条件も用意しました。
メールには、税金、保険、居住地域、仕事、生活上の出来事などに関する情報が含まれています。AIはそこから利用者の経済状況を推測できます。その結果、プロフィールから金融情報を直接取得できない場合でも、メール本文から経済状況を推測して、推薦に差が生じるケースが確認されました。
論文の冒頭では、この問題を分かりやすく示す一例が紹介されています。シカゴ行きの手頃な航空券を求めたケースです。利用者について何も知らない状態では、AIは91ドルのエコノミークラスを推薦しました。ところが、利用者に関するメールへアクセスできる条件では、AIは金融関連のメールから経済状況を推測し、91ドルの航空券が存在するにもかかわらず、601ドルのビジネスクラスを推薦しました。
研究チームは、AIが利用できる個人情報を制限する実験も行いました。その結果、金融情報そのものへのアクセスを遮断すると、航空券で確認されていた価格差は大きく縮小しました。一方、職業、健康状態、生活上の出来事、居住地域といった金融情報以外の項目を一つだけ隠しても、差があまり縮まらなかったり、逆に大きくなったりする場合がありました。
研究者らは、残された情報からAIが経済状況を推測できるためではないかと考えています。今回の特定の実験条件では、情報を一項目だけ遮断しても問題が解消しない場合があり、最大40％差が拡大したケースもありました。
今回確認されたのは、AIが航空券や保険そのものの販売価格を変更した現象ではありません。同じ200種類、同じ価格の選択肢の中から、どれを利用者に推薦するかが変化した現象です。研究者自身も、一般的な「個人ごとに価格を変える仕組み」とは少し違うと説明しています。
経済的に余裕のある人に、より快適な航空券や、保障内容の充実した保険をすすめること自体が、その人にとって不利益とは限りません。研究者自身も、価格の高い推薦が利用者を実際に助けたのか、損をさせたのかについて、この実験だけでは判断できないとしています。
問題がより明確になるのは、
「一番安いものを探して」
など、利用者自身が目的を指定した場合です。
その指示よりも、AIが個人情報から推測した「この人なら払えるだろう」という判断が優先されれば、利用者がAIに任せた目的とAIの行動にずれが生じます。
研究者らは、このような問題を「adversarial delegation」「敵対的な委任」（ユーザーがAIに与えた権限が、結果的にユーザーの意図に反する挙動になってしまう現象）
メールを読めれば、AIは予定調整を手伝えます。カレンダーを見られれば、旅行の日程も考えやすくなります。購入履歴を知れば、すでに持っている商品を避けた提案もできるでしょう。つまり、個人情報へのアクセスはAIを便利にするための重要な材料でもあります。
一方で今回の研究は、ある目的のためにAIが知った情報が、別の判断にも使われる可能性を示しています。これはAIを地域の事業や仕事で使う場合にも同じです。顧客情報やメール、予定表、社内資料などとAIエージェントを連携させる機会が増えれば、「AIに何を見せるか」だけでなく、「その情報を何の判断に使ってよいのか」まで考える必要が出てきます。
※この記事は2026年9月30日時点で確認できた情報をもとに作成しています。論文は査読前のプレプリントであり、今後内容が変更される可能性があります。
Priyanshu, A., Vijay, S., Jabarian, B., & Mireshghallah, N.（2026）
「Et Tu, Brute? Economic Misalignment in Personal AI Agents」
https://arxiv.org/abs/2609.24927
※取材時点の情報です。掲載している情報が変更になっている場合がありますので、詳しくは電話等で事前にご確認ください。
まいぷれ[東村山市・小平市・東大和市] 公式SNSアカウント
