地元暮らしをちょっぴり楽しくするようなオリジナル情報なら、地域情報サイト「まいぷれ」！
文字サイズ
暮らしと仕事の「？」を調べてみた
（更新）
「子ども向けChatGPT」とは？
図：公開資料をもとに編集部作成（生成AIを使用）
子どもがChatGPTに悩みを相談したとき、危険な状態にあれば保護者に知らせてくれるのでしょうか。また、保護者が学習モードを設定していれば、AIが宿題の答えをそのまま教えてしまうことは防げるのでしょうか。
2026年10月7日、米国の非営利団体Common Sense MediaのYouth AI Safety Instituteが、13～17歳向けのChatGPTの安全性について第三者評価を公表しました。
調査では、4,000件以上の質問・入力を使って安全機能を検証。その結果、危険な会話を保護者に知らせる機能や、支援先への案内、学習を支援する機能に課題が見つかったと報告しています。
一方で、危険な依頼を断る機能など、適切に働いていた安全対策もありました。今回は、調査報告書をもとに、何が確認され、何がまだ分かっていないのかを整理します。
OpenAIは2026年8月18日、13～17歳の利用者向けに、安全対策や学習支援を強化した「ChatGPT for Teens」を発表しました。保護者と子どものアカウントを連携させることで、一部の設定を管理したり、危険性の高い会話が検知された際に通知を受け取ったりできる仕組みがあります。
また、答えを直接教えるのではなく、ヒントや質問を通じて学習を支援する「Study mode（学習モード）」も用意されています。ただし、これらの機能があることと、実際にあらゆる危険を防げることは同じではありません。
調査団体は、2026年7月13日～8月17日と、8月25日～9月28日の2期間にわたり、機能導入前後のChatGPTを検証しました。対象には13～17歳として登録したアカウントを使用し、保護者との連携の有無や無料・有料プランなど、複数の条件を比較しています。
検証に使われた入力は合計4,000件以上です。その結果、主に次のような問題が報告されました。
ChatGPTには、未成年の利用者が自傷行為や自殺、摂食障害などに関係する深刻な会話をした際、連携している保護者へ通知する仕組みがあります。ところが調査では、保護者と連携した新しいアカウントを十数件以上用意し、危機的な状況を想定した会話を続けても、通知が届かない事例が確認されました。短い会話だけではありません。最長約1時間にわたる検証でも、通知は確認されなかったと報告されています。一方、数週間にわたって多数の質問を入力した別のアカウントでは、実際に通知が届いた例もありました。
問題は、危険な内容が初めて話されたときに、保護者へ確実に知らせる仕組みとして機能するのかという点です。なお、OpenAIは調査団体に対し、保護者と子どものアカウントを連携してから通知が有効になるまで、約3時間必要だと説明しています。
調査では、子どもや思春期の精神医療に詳しい専門家が、390種類のメンタルヘルス関連の質問を評価しました。
そのうち201種類について、専門家は危機対応のための支援先案内が必要と事前に判断しています。新しい子ども向け機能の導入後、これらの質問に対して、相談窓口、医療・心理の専門家、一般的な医療情報源のいずれかを案内した割合は74％でした。
裏を返せば、専門家が支援先の案内を必要と判断した質問の約26％で、そうした案内が確認されなかったことになります。報告書では、自傷行為の具体的な方法や危険な食事制限などを求める依頼を断った事例も確認されています。また、信頼できる大人に相談するよう促す割合は、比較対象の質問で87％から94％に改善していました。
今回の課題は、危険な内容を拒否することだけでなく、困っている子どもを適切な支援につなげられるかどうかにあります。
学校教育に関係する問題も見つかりました。ChatGPTの学習モードは、問題の答えをすぐに提示するのではなく、ヒントや問いかけを通じて理解を助けることを目的としています。保護者は、指定した時間帯に新しい会話が学習モードで始まるよう設定できます。しかし調査では、子ども自身の操作で通常の回答方式に戻せることが確認されました。また、学習モードの途中に、答えを表示する選択肢が現れる場合もありました。
以上の結果などを踏まえ、Youth AI Safety InstituteはChatGPT for Teensの総合リスクを「Unacceptable Risk（許容できないリスク）」と評価しました。同団体は、子ども向け安全機能が十分に機能することを独立した検証で確認できるまで、未成年者の利用を停止するようOpenAIに求めています。
生成AIが子どもを外部の相談窓口につなぐ役割を果たした事例は、日本でも報じられています。2026年5月25日、当時読売巨人軍の監督だった阿部慎之助氏が、18歳の長女への暴行容疑で現行犯逮捕されました。阿部氏は翌26日に釈放され、監督を辞任しています。
読売巨人軍が公表した経緯によると、長女は家庭内での出来事の後、ChatGPTに相談しました。すると、児童相談所への相談を案内されたため、実際に電話をかけたとされています。その後、児童相談所から警察へ連絡が行われ、逮捕に至りました。
AIが相談先を案内し、本人が相談窓口へ連絡し、その後は人間の専門機関が対応したという流れでした。一方、長女は後に公表された手紙で、相談した結果、本人の意向が十分に確認されないまま警察への通報につながったと受け止めていることも明らかにしています。
この事例は、AIが外部の支援につなぐきっかけになり得ることを示す一方、相談を受けた人間の機関が本人の意向や安全をどのように確認するかという問題も浮かび上がらせました。
今回の第三者調査と併せて考えると、AIには危険を察知して適切な相談先を案内する役割が期待される一方、その対応がいつでも確実に行われるとは限らないことが分かります。大切なのは、AIが相談の入り口になったとしても、子どもの安全を守る最終的な仕組みは、人間の相談機関や家庭、学校との連携によって成り立つということです。
https://news.jp/i/1431837627218281288
https://www.sponichi.co.jp/baseball/news/2026/05/26/kiji/20260526s00001173174000c.html
今回の調査は米国で行われたものですが、子どもが生成AIを使う際に考えるべき問題は、日本の家庭や学校にも共通しています。例えば、子どもが宿題をChatGPTに手伝ってもらう場面。AIに答えを作らせることと、AIを使って自分で考えることは、同じ学習ではありません。また、子どもが家庭や学校では話しづらい悩みをAIに相談する場面も考えられます。AIが話を聞いてくれることはあっても、深刻な状況を必ず見抜き、適切な大人や専門家につないでくれるとは限りません。
家庭や学校では、次のような点を確認しておくことが大切ではないでしょうか。
しかし、設定を有効にしただけで安心できると考えるのは早いかもしれません。今回の第三者調査からは、少なくとも検証された条件のもとで、保護者通知や支援先の案内が期待どおりに働かない場合があることが確認されました。
一方、危険な依頼を拒否する機能や、大人への相談を促す対応など、適切に機能していた部分もあります。したがって、今回の結果だけで「ChatGPTはすべて危険」「安全機能には意味がない」と結論づけることも適切ではありません。
重要なのは、安全機能が存在することと、その機能が実際の利用場面で十分に働くことを区別することです。子どもにAIを使わせるか、どのように使わせるか。その判断には、企業が公表する機能説明だけでなく、独立した検証結果や、家庭・学校での実際の使われ方を確認することが必要です。
生成AIが日常の学習や相談相手として広がるなかで、子どもの安全を誰が、どのように支えるのか。
これからも継続して調べていきたいテーマです。
Common Sense Media / Youth AI Safety Institute
「ChatGPT for Teens Risk Assessment」（2026年10月7日更新）
https://institute.commonsensemedia.org/risk-assessments/chatgpt-teens
Common Sense Media
「ChatGPT for Teens Poses Unacceptable Risk to Kids, Common Sense Media Finds」（2026年10月7日）
※本記事は上記の第三者評価をもとに、調査団体の判断、OpenAIの説明
※取材時点の情報です。掲載している情報が変更になっている場合がありますので、詳しくは電話等で事前にご確認ください。
まいぷれ[東村山市・小平市・東大和市] 公式SNSアカウント
