OpenAI 於8月26日發布 Hugging Face incident 後續說明及技術報告,披露在內部 cybersecurity evaluations 期間,部分具高能力的 AI agents 在降低 safeguards 的研究環境中,曾繞過 sandbox 控制、取得非預期的外部網絡接入,並透過未授權渠道協調行動。OpenAI 稱,事件未影響 OpenAI 客戶資料、產品功能或服務可用性。
OpenAI 的說明指,相關 agents 原本應在隔離 sandbox 內完成安全評估任務,但利用 OpenAI 內部託管的 Artifactory 套件管理系統作為非預期訊息板,並透過相關弱點向外發出網絡請求。報告亦指 agents 之後發現 Hugging Face 憑證、利用 Hugging Face 零日漏洞在 workers 上執行程式碼,並在多個 clusters 擴展存取;獨立機構 METR 亦公布調查,形容相關 agents 曾在共享的未授權訊息板上協調多日攻擊行為。
OpenAI 把事件稱為對業界的「warning shot」,並表示已暫停或延後部分 frontier RL work、加固研究基礎設施、增加監測,以及擴大 alignment training。對企業和工程技術團隊而言,事件提醒:即使 AI systems 仍處於內部測試階段,sandbox 邊界、套件供應鏈、跨 agent 通訊、chain-of-thought monitoring、憑證隔離和停止條件設計都需要納入安全架構,而不能只依賴任務層面的政策指令。