OpenAI於7月31日發文,交代公司如何在 EU AI Act 進入下一階段時,調整其 safety、security、transparency 及 provenance 做法。OpenAI 表示,已支持 EU 的 General-Purpose AI(GPAI)Code of Practice 及 AI-generated content transparency code,並主張監管框架應保持務實、按比例及風險為本。

在模型治理方面,OpenAI 指其主要模型發布前會進行測試,並透過 system cards、Red Teaming Network、Model Spec、Preparedness Framework 及 Frontier Governance Framework,將風險評估、保障措施、模型報告、事故應對和外部專家參與制度化。公司亦提到,會透過 Frontier Model Forum、US CAISI、UK AISI 及第三方評估工作,推動跨機構安全研究與評估標準。

透明度方面,OpenAI 說明其 provenance 策略由 Content Credentials(C2PA)與 SynthID watermarking 組成:前者讓內容攜帶產生或編輯背景,後者在 metadata 遺失時仍保留訊號。OpenAI 表示正把 provenance 措施由圖像擴展至 audio outputs,並會隨標準成熟探索 text 等更多模態。對企業和開發者而言,這意味採用 frontier AI 時,除模型能力外,合規文件、出處標示、風險評估和內容驗證工具會愈來愈成為部署條件的一部分。

資料來源:OpenAI。