Google 發布 DiffusionGemma｜開放式文字擴散模型主打低延遲本地推理

Google 發布實驗性開放模型 DiffusionGemma，將文字生成由傳統逐個 token 輸出，改為先建立一段文字草稿再反覆修正。Google 表示，這種文字擴散架構在低並發、本地或互動式場景下，可以更充分利用 GPU 算力，在專用 GPU 上帶來最多 4 倍生成速度提升。

官方資料指，DiffusionGemma 是 26B Mixture of Experts 模型，推理時啟用約 3.8B 參數；量化後可在約 18GB VRAM 的高階消費級 GPU 上運行。Google 將它定位為研究及開發者實驗模型，適合即時編輯、快速原型、程式碼補全或需要一次處理整段文字結構的應用；若追求最高輸出質素，官方仍建議使用標準 Gemma 4 系列。

模型權重以 Apache 2.0 授權發布，並可透過 Hugging Face Transformers、MLX、vLLM、NVIDIA NIM 等工具鏈部署。對需要在工地、設計辦公室或企業內部環境做低延遲本地 AI 輔助的團隊，這類文字擴散模型值得觀察，但仍應先以實際任務測試質素與延遲取捨。

本文為本站根據 Google 公開資料整理重寫的摘要，並非官方原文。完整內容以 Google The Keyword 原文為準，請參閱上方「原文」連結。