Anthropic宣布與 Accenture 合作，推動 frontier AI 的 independent embedded evaluation。合作由 Accenture 旗下 specialist AI business Faculty 牽頭，工作範圍包括 model evaluation、red-teaming、alignment assessments，以及 model safeguards 測試；Anthropic 表示，Accenture 在企業及政府 AI 部署方面的實務經驗，將被用於評估模型在真實應用場景中的風險與安全措施。
公司稱，Anthropic 與 Accenture 預期未來五年各投入至少10億美元建立相關能力。與一般外部評估不同，embedded evaluators 會在 AI 公司內部工作，取得接近員工層級的存取權限，以便觀察模型訓練、產品與安全決策流程，並評估公司是否履行安全承諾。Anthropic 同時強調，獨立評估者只會提升可驗證性，不會降低公司對模型安全的責任。
Anthropic 指出，embedded evaluation 仍屬新模式，業界尚未就評估者可存取哪些資訊、如何報告結果，以及長期資金來源形成標準。公司表示，這項合作不具排他性，未來會與更多評估機構合作；Accenture 亦可與其他 AI developers 建立類似安排。對企業採用 frontier AI 的團隊而言，相關安排反映模型安全評估正由事後外部審視，逐步走向更貼近開發及部署流程的常設機制。
資料來源：Anthropic。