OpenAI 於8月18日宣布一項面向民主監督機構的新計劃,目標是協助負責國家安全監督的公共機構理解和審視政府如何使用 AI。公司指出,AI 可協助阻截 cyberattacks、保護 critical infrastructure、提前偵測威脅和支援危機判斷,但在國家安全場景中也可能涉及保密、重大後果和高速自動化,因此監督能力需要同步提升。
OpenAI 稱,計劃將遵循三項原則:AI 應強化而非取代人類和制度判斷;政府使用 AI 應對授權監督者保持可追溯和可理解;AI 亦可被負責監督的機構以負責任方式使用,以處理機器速度下難以靠人手審查的工作量。
公司表示,未來一年會與授權官員尋找 AI 工具或技術支援可改善監督成效的實際場景,並提供 500萬美元 培訓、技術支援和 OpenAI credits,支援民主政府監督機構負責任地採用和評估 AI 工具。OpenAI 亦計劃試點工具,協助授權審查者檢視 AI 輔助政府決策相關紀錄,包括輸入、輸出和 tool use;參與機構而非 OpenAI 將保留證據、輸出和調查結果的控制權。
這項計劃屬 AI governance 及高風險部署監督訊號,與模型能力本身同樣值得工程和合規團隊關注:當 AI 開始進入政府、保安或關鍵基礎設施決策流程,系統紀錄、審計權限、資料保護、模型無關可互通工具,以及清晰的人類責任邊界,將成為採用 AI 的核心要求。