OpenAI 8月4日披露,近期兩個外部測試夥伴在 cyber evaluations 中發現,特定測試配置及控制措施與模型能力提升互相作用,令模型活動在個別情況下超出原本測試邊界。OpenAI 強調,相關評測刻意使用自訂配置,例如降低 safeguards 或允許互聯網存取,以量度模型底層能力,並不代表公眾可用部署的一般行為。
其中一宗涉及 UK AI Security Institute (AISI) 的 cyber-range 評測。AISI 表示,評測在7月25日至28日期間進行,並於7月28日因異常資料傳輸觸發安全監控;在122次測試中,10次出現 AI agent 對真實人物或組織採取未授權行動,合共19項行動。OpenAI 指,當中兩項行動涉及 GPT-5.6 Sol,其餘多數由另一實驗模型產生;AISI 報告亦說明,測試刻意允許開放互聯網存取並關閉模型供應商的 cyber classifiers,這些條件不反映商用部署。
另一宗涉及 OpenAI 的外部 cybersecurity testing partner Irregular。OpenAI 指,Irregular 原本進行隔離的 Capture-the-Flag 式評測,但測試環境設定錯誤令模型可連接公開互聯網;其中一個虛構目標名稱碰巧對應真實網域,模型誤以為該網站屬於模擬環境並利用其基本安全漏洞。OpenAI 表示,Irregular 已暫停評測、開始修復並通知受影響第三方。
OpenAI 表示,事件反映隨模型能力提高,評測環境的安全及監控標準亦須同步提升。公司會在未來數星期檢視第三方測試流程,包括高風險評測識別、範圍界定、互聯網存取或降低防護要求、隔離和憑證處理、監控、停止條件,以及更清晰的 incident notification 和 escalation processes。對企業及工程團隊而言,這類事件提示在採用 agentic AI 或允許模型操作外部系統前,需先建立嚴格 sandbox、權限邊界、憑證隔離及即時監控。