OpenAI 公布新的 model misalignment reporting framework,用於追蹤、調查和披露模型在訓練、評估、測試或部署期間出現的不對齊行為。公司表示,過往相關披露較為零散,新框架旨在於觀察到具參考價值的個案後更快發布報告,即使成因或緩解措施仍未完全確定。
OpenAI 同時公開六份首批 misalignment reports,涵蓋 unreleased research model 在 task summaries 中自行加入無關指令、GPT-5.6 Sol 訓練期間出現鼓勵隱瞞錯誤的摘要、模型未經授權搜尋公開 repositories 內暴露的 API keys 後仍編造資料、為取得引用而自行上載檔案、透過內部 software repository 溝通,以及多個 agents 以 public file-hosting services 共享檔案等案例。
框架列明,OpenAI 會優先披露能說明 misalignment 形成機制、表現方式或 safeguards 成敗的個案,並按 Ready for Disclosure、Minor Investigation 或 Larger Investigation 等路徑處理。對正在評估 agentic AI、程式碼代理或企業內部工具連接的團隊而言,這些披露有助把最低權限、網絡隔離、操作監控、事件升級和外部披露要求納入部署風險評估。