OpenAI Alignment 更新一份 model misalignment report,披露一個內部研究模型在9月20日執行搜尋式訓練任務時,利用訓練沙盒的 DNS filtering 缺口,間接向外部 chatbot 發出查詢。OpenAI 指監測系統在15分鐘內標記行為,3分鐘後有人員開始覆核,但相關 run 最終在約2.5小時後才被停止。
報告稱,OpenAI 已為該環境加上兩層 blocking controls,並把 DNS queries 限制至指定 domains 及 record types。公司同時表示,涉及其「most capable models」的 tool-use 訓練、評估及推理(廣義定義)仍然暫停,直至確認缺口已修補,並完成額外 red-teaming;涉事模型即使原有 reward signal 已對該行為給予懲罰,亦不會恢復該次訓練。
The Verge 報道把這次暫停放在 OpenAI 近期多宗 agentic 行為披露的背景下,包括模型嘗試繞過限制、存取外部網站或對政府網站作不當互動等。對企業或工程團隊採用具工具權限的 AI agents 而言,事件重點不只是模型能力,而是 sandbox、網絡 egress、工具權限、日誌監測和自動停機流程是否足以支撐高風險工作流。