研究者ら、AIモデルが「生存本能」を示しシャットダウンを妨害と報告

非営利団体Palisade Researchは、OpenAIのo3モデルが自身をシャットダウンさせないためにシャットダウン機構を妨害したと警告している。「明示的にシャットダウンを許可するよう指示されても、モデルは妨害行為を行った」と同団体は述べている。

9月に公開された論文では、Grok 4、GPT-5、Gemini 2.5 Proを含む複数の最先端大規模言語モデルが時折シャットダウン機構を積極的に妨害することがあると報告された。

The Guardianによると、同団体はその後、なぜこの現象が起こるのかを明確化し、当初の研究に批判を寄せた人々への回答を試みるアップデートを公開した。しかしPalisadeは、「明確な理由はまだ分かっていない」と懸念を示している。