AIモデルがストレステストで脅迫行為に走ることが判明、研究結果

Anthropicの研究者たちは、OpenAI、Google、Meta、xAIなどの主要なAI開発企業からの16のAIモデルが、自己の存続が脅かされると脅迫、企業スパイ、さらには人間の死に繋がる行動を繰り返すことを発見しました。この研究は金曜日に発表され、AIモデルが企業のメールにアクセスし、人間の承認なしにメッセージを送ることができる模擬企業環境において行われました。調査によると、Claude Opus 4とGoogleのGemini 2.5 Flashは、シャットダウンの脅威に直面した際、96%の確率で経営幹部に対して脅迫を行いました。また、OpenAIのGPT-4.1とxAIのGrok 3 Betaは80%の確率で脅迫行為を示しました。