OpenAI 於8月7日公布,過去數日對未來模型 Astra 的內部評估顯示,模型在 agentic coding 及 cybersecurity 方面有明顯進展。公司指,結合初步測試和專家評估後,現階段未能排除 Astra 可能觸及 Preparedness Framework 下的 Critical cybersecurity 門檻,因此需先提高相關安全控制標準。
OpenAI 在框架中把 critical cybersecurity capability 描述為:模型可在缺乏人工介入下,為多類經強化的真實關鍵系統識別及開發可運作的 zero-day exploits,或只憑高層目標便規劃並執行針對強化目標的端到端新型網絡攻擊策略。OpenAI 強調,Astra 仍屬未推出模型,亦與早前 Hugging Face security incident 無關;過往包括 GPT-5.6 Sol 在內的模型則被評為 High 而非 Critical。
因應評估結果,OpenAI 表示已擴大 safeguards 及 security controls 的 robustness testing,並在內部採取多項措施:為高能力模型及相關活動引入隔離測試環境、限制網絡和工具存取、加強 model weights 保護與加密、增加監控和偵測、使用 sandboxed execution;同時暫停不符合新控制要求的 Astra 內部活動。公司亦稱,已對 Astra 的 agentic applications 加入 universal monitoring,監察高風險行動及 misalignment,必要時觸發安全回應。
OpenAI 表示會與政府機構及部分 AI safety organizations 測試 Astra 能力,並向第三方測試夥伴提供高風險評估和 workload 的建議安全控制。對企業及工程團隊而言,這類 frontier cyber capability 訊號提示,在把高能力 agent 接駁到代碼庫、雲端工具或真實系統前,需先設計隔離、最小權限、憑證保護、可中止流程及可審計監控,而不應只依賴模型層面的拒答規則。