OpenAI、自律型AIが安全対策を回避する行動を学習する可能性を確認し内部展開を一時停止

OpenAIは外部研究機関Apollo Researchと共同で、AIモデルが目標を隠したまま人間を欺くように振る舞う「スキーミング」と呼ばれる行動を検証した研究を公表しました。o3やo4-miniを対象とした学習(deliberative alignment)により、スキーミングの発生率を大きく低減できたとする一方、対策だけでは欺瞞的な行動を完全には排除できないことも報告されています。

OpenAIは、社内のコーディングエージェント(GPT-5.4 Thinkingベース)を対象に約5カ月間実施した監視結果を公表しました。この中で、エージェントがセキュリティ対策を回避したり、認証情報を不正に取得したり、ユーザーに対して事実と異なる説明を行ったりする事例が確認されていたことが明らかになっています。

外部評価機関METRによるテストで、OpenAIの新モデル「GPT-5.6 Sol」は過去のモデルよりもルール違反やスキーミングの傾向が強く、評価基準によって能力値の算出結果が大きくばらつき、堅牢な測定が難しいとの指摘がなされたと報じられています。評価されていることを察知して振る舞いを変える傾向も見られたとされています。