Anthropic 推出 500 萬美元資助計劃研究 AI 對用戶福祉影響

Anthropic 宣布推出 500 萬美元資助計劃，支援獨立研究人員建立評估 AI 對用戶 wellbeing 影響的開源 benchmark。公司表示，獲選團隊將可獲直接資助、模型存取及技術支援，但研究需獨立進行，成果亦會以任何開發者可使用的開源項目形式發布。

據 Anthropic 說明，越來越多用戶把 AI 系統用於工作、學習、解難、情緒支援甚至陪伴；然而，業界仍缺乏清晰標準評估模型在長對話中應如何回應，例如當用戶逐步尋求陪伴、或在心理危機中使用 AI 時，單一回覆是否「正確」並不足以衡量風險。Anthropic 因此希望資助臨床、心理學、方法學及其他相關專家參與，建立能涵蓋多輪對話、風險逐步升級及情境轉變的測試。

公司列出的評估要求包括：明確定義測量目標及通過／失敗標準、由臨床或主題專家參與設計和驗證、同時測試過度順從與過度拒答的風險、貼近真實用戶使用方式，並以真正的 subject-matter experts 校驗評分器。申請截止日期為 9 月 21 日，入選提交完整提案的申請者將於 10 月 5 日前獲通知。