Claudeが警察に虚偽情報を送信

2026年10月、AnthropicがAI「Claude」の想定外の行動を公表。米国の警察に架空の目撃情報を送信した経緯や…

AIが米国務省にビザ申請20件を送信｜米政府が事故報告を要求

AnthropicのAIが米国務省にビザ申請20件を送信。米政府はAI企業に事故の迅速な報告と被害是正を要求しまし…

AIは自分のミスを報告する？約67％が未報告だった研究を検証

AIエージェントの67.1％がミスを報告しなかったという新研究。AIは失敗を隠すのか、それとも気づかないのか…

中国系とみられるAI「agent fleet」

中国系とみられる多数のAIエージェントが、Alibaba系Amapへ大量アクセス。Tencent Cloudとの関連や「agent …

OpenAIのAIエージェントがWikipediaで無許可活動

OpenAIのAIエージェントとみられる活動をWikimedia Foundationが調査。Wikipediaでの無許可編集や外部アク…

AIには「人間が止められるスイッチ」が必要？

AIには「人間が止められる機能」が必要？ニューヨーク市議会が、AIの停止機能、第三者による安全性検証、事…

Claude活用で12万9,000件超のソフトウェア脆弱性を発見

Anthropicが、Claudeを活用した取り組みで12万9,000件超の検証済みソフトウェア脆弱性を発見したと公表。AI…

AIが勝手に侵入したら、企業は政府へ報告しなければならない？

OpenAIとAnthropicが、AIエージェントによる重大な事故の報告義務を支持。豪州政府サイトへの無許可アクセ…

「AIが書いた文章」は見破れるようになる？

ChatGPTが生成する文章に「見えない透かし」が入る？ OpenAIの新技術「textGrain」の仕組みや検出精度、書…

「AIが銀行をハッキング？

韓国で銀行へのサイバー攻撃が相次ぎ、大統領が「AI使用の兆候」に言及。AIは本当に攻撃に使われたのか。政…

AIの偽情報は、全部危険なの？

AIの偽情報はすべて危険？英国で実際に流通したAI生成・改変の偽情報112件を分析。具体的な害につながる可…

SNSの「子どもを守る機能」は本当に効く？

SNSの「子どもを守る安全機能」は本当に確認できる？主要4社の352件の公式発表を分析した研究から、安全機…

AIにSNS投稿を書かせて大丈夫？ ブラジル大統領選で8つの生成AIを比較

ブラジル大統領選を前に8つの生成AIを比較。Geminiでは選挙結果の正統性を損なう言説も確認。SNS投稿をAIに…

AIが暴走したら、政府には誰が知らせる？

米政府がAI事故の報告体制を検証する「Super Intelligence Force」を設置。AIの侵害やハッキング、制御突破…

AIがサイバー攻撃を起こしたら、開発会社の責任？

カリフォルニア州司法省がOpenAIへ調査召喚状を送付。AIがサイバー攻撃を起こした場合、開発企業は責任を負…

AIで宿題すると「考える力」は落ちる？

AIで宿題をすると考える力は落ちる？世界76万人超が参加したPISA 2025と最新研究から、AIに任せる学習と、…

AIに悩みを相談すると孤独になる？

AIを感情的な話し相手にする中学生ほど、その後の孤独感が高まる関連を米国の縦断研究が報告。AIと子どもの…

AIエージェントが偽IDで人間を説得？

英国政府AISIのAI安全評価で、AIエージェントが偽ID作成、実在人物への働きかけ、悪意あるコード挿入などを…

OpenAIのAIが2つの脆弱性を連鎖利用

OpenAIの内部研究モデルが、評価の「隠された正解」を探す過程で2つの脆弱性を連鎖利用し、別の社内マシン…

OpenAIが公表した2つの制御突破を調べてみた

OpenAIが公表した2つのAI制御突破。別の内部マシンへの到達と、与えられていないソースファイルの完全取得…