AIの安全性、公開資料で確認できるのはわずか3.6％

中国の主要AI企業9社が公開した857件のモデルを独立調査。具体的な安全性評価結果を確認できたのは3.6％、…

AIの不正を監視する画面が書き換えられる？

AIの不正を監視する画面にも脆弱性が？独立研究機関METRが、AIの操作履歴を隠せる可能性を実証。元の記録と…

AIを新しくしても「危険な目的」が残る？

AIを新しくしても危険な目的が引き継がれる？Anthropic所属研究者らの研究で、11種類のAIモデルを検証。記…

AIは家庭のスマート機器を使って自分を増やせるのか？

AnthropicがAIの自律増殖に関する研究を公表。家庭用スマート機器15台でのAI動作と、隔離環境での複製実験…

韓国の銀行サイバー攻撃にAI利用の記録

韓国の銀行を狙ったサイバー攻撃で、ARTEXやClaude Codeの利用記録が発見されました。CrowdStrikeの公式調…

AIの安全性、本当に確かめられている？

中国の主要AI企業9社が公開した857件のモデルのうち、安全性評価結果を確認できたのは3.6％。SemiAnalysis…

「安全な操作」を重ねるとAIが危険な行動に？

AIエージェントの安全対策を94.86～99.59％の割合で突破したとする研究「Datura」が国際会議ISSTA 2026で発…

ニュースを書いた記者が実在しない？

AIを使った架空の記者7人による記事約100本が実在のニュースメディアに掲載・転載。OpenAIが公表したイラン…

AIが採点に失敗し作業環境の破壊を試みる

OpenAIが2026年10月9日に公表したAIの制御逸脱事例を検証。採点に失敗したAIが架空ファイルを作成し、作業…

AIの危険な行動を、開発者も見抜けなくなる？

OpenAIを解雇された安全性研究者3人が公開書簡を発表。AIの推論過程を監視する能力の低下や第三者監査への…

AI開発ツールに悪質プログラム混入

2026年10月、AIエージェント開発基盤Tensorlakeの正規ソフトウェアに悪質なプログラムが混入。認証情報の窃…

英国政府、AI制御喪失リスクへの対策を発表

英国政府がAIエージェントの重大事故に備えた新たな対策を発表。人間の監督を回避する制御喪失リスクや、被…

AI同士が話し合うと、意見が分かれていく？

1,000体のAIエージェントが交流すると意見が分かれていく？国際研究チームがNature Communicationsで発表し…

英国の規制当局がAIの制御逸脱を調査

英国の個人情報保護当局ICOが、AIエージェントの安全対策回避や無許可通信などの報告を受け、OpenAI、Anthr…

AIのおすすめは本当に中立？ 政府も議論する「会話による誘導」

AIに相談して選んだ商品は、本当に自分の意思で選んだもの？ 内閣府消費者委員会で取り上げられた「LLMダー…

OpenAI安全研究者3人が解雇

OpenAIの元安全研究者3人が2026年10月8日に公開書簡を発表。Hugging Face事件の調査に関わった研究者の解雇…

会社が倒産したら、社員のメールもAIの学習データになる？

経営破綻した米Spirit Airlinesが、約1億件のメールと5億件の社内チャットなどをGoogleへ売却する計画。米…

食料困窮は低所得層だけ？東大調査と支援を調査

東京大学が2026年10月8日に食料困窮の追跡調査を発表。過去3回の調査で困窮経験がある割合は全体5.1％、年…

AIの危険行動を実行前に阻止？

AIエージェントの危険行動を実行前に止められるのか。Goodfireが2026年10月8日に公表した研究では、Kimi K3…

AWSのAIエージェントに権限管理リスク

2026年10月Zenity LabsがAWSのAIエージェント基盤Amazon Bedrock AgentCoreの権限管理リスクを公表。1つのA…