OpenAI 在 2026 年 6 月 16 日發表 Deployment Simulation,定位為模型發布前安全評估的新補充方法。做法是以私隱保護方式抽取近期部署中的對話脈絡,移除原有 assistant 回覆,再由候選模型重新生成回覆,讓團隊在模型正式推出前觀察它在接近真實使用分布下的行為。
OpenAI 表示,這套方法已用於多次 GPT-5-series Thinking 部署評估,能改善對不理想模型行為發生率的估算,並在發布前協助發現新的 misalignment 形式;公司亦把方法延伸至涉及工具使用的 agentic coding 場景。研究披露,相關測試分析了約 130 萬段經去識別化的 GPT-5 Thinking 至 GPT-5.4 部署對話,並只使用允許資料用於模型改進的 ChatGPT 流量,以匯總方式報告結果。
這項更新反映 frontier AI 供應商正把模型發布前評估由傳統紅隊與靜態測試,擴展到更接近實際部署的量化風險預測。對需要在工程、設計、合約或營運流程中導入 AI agents 的機構而言,這類方法提示模型驗收不應只看基準分數,也要評估在真實工作上下文、工具調用及資料治理限制下可能出現的失準行為。
本文為本站根據 OpenAI 公開資料整理重寫的摘要,並非官方原文。完整內容以 OpenAI 原文及研究論文為準,請參閱上方「原文」連結。