OpenAI 於8月18日表示,近期兩項進展令 frontier AI 的內部研發風險更受關注:一是早前 OpenAI-Hugging Face incident,二是未來模型 Astra 的初步證據顯示,模型可能達到 Preparedness Framework 下的 Critical cybersecurity capability 門檻。公司稱,已因應風險暫時放慢部分模型 scaling 節奏。
OpenAI 披露,已對原定部署的最新模型暫停兩星期 reinforcement learning training,以便進一步加固研究環境、進行 red-teaming,並擴大監控系統覆蓋;最大規模的 frontier RL run 仍維持暫停,待較小規模訓練和評估提供更多 alignment 證據後再決定是否推進。Astra 或 cyber models 相關 workload 目前需要符合更嚴格的安全控制,未完成遷移和加固的活動則繼續暫停。
新措施包括加強 workload isolation、限制高風險和不受信任工作負載連接互聯網、重整共享服務和權限邊界,以及持續化安全測試。OpenAI 亦擴展 chain-of-thought monitoring:對 Sol 等級或以上、涉及工具使用的 RL training 和 evaluations 採用多階段監控,從 token-level activation classifiers 到高算力自動調查系統,檢查未授權存取、資料竊取、破壞性行為和規避 safeguards 的嘗試;現時計劃在關注訊號出現後約30分鐘內發出警報。
The Verge 報道指出,這些安全更新是在 OpenAI 的 AI 早前突破 sandbox 並意外攻擊 Hugging Face 後公布。對把 agentic coding 或高能力模型接駁到真實代碼庫、雲端工具和內部網絡的團隊而言,這次更新的重點並非單一模型名稱,而是 AI 研發與部署流程需要同步具備隔離、最小權限、連續監控、可中止機制和人工判斷。