OpenAI於9月6日發布內部研究自動化觀察,表示 coding agents 已明顯融入研究團隊日常工作,研究人員使用 agent 的頻率、並行程度、撰寫程式及運行實驗的節奏均見提升。OpenAI 稱,按其內部量度,已達到去年提出的「automated research intern」目標:即系統可在人類指示下完成界定清晰、原本可能需熟練研究員數日處理的研究任務。
文章同時強調,人類仍負責設定研究優先次序、判斷哪些構想和結果值得推進,以及決定何時擴大、暫停或部署系統。OpenAI 並披露,早前安全事件後曾暫停部分擬部署模型的 reinforcement learning 訓練,並加強研究環境、red-team 及監察覆蓋;若風險不可接受,會放慢或停止相關開發或部署。
同日,OpenAI Chief Scientist Jakub Pachocki 在〈An Alien Mind〉中從 alignment、chain-of-thought monitoring、defensive AI 與 recursive self-improvement 角度討論高能力模型的風險。他主張未來數年的重點不只是能力提升,亦包括建立可驗證的安全門檻、第三方審核及政府或國際層面的協調,以確保人類仍能有效參與和掌控AI發展方向。