The Verge報道,Google 在推出一項可用 text prompts 編輯 Google Earth 衛星圖像的 AI 功能後,僅一天便把功能回滾。報道指,該工具使用 Nano Banana 2,可生成看似真實世界場景的改圖;有研究人員測試時生成邊境、醫院附近爆炸坑等敏感場景,令外界關注地理影像被 AI 改寫後的誤導風險。

報道引述 Google 聲明稱,公司知道用戶特別信任 Google Earth 作為可靠的世界視圖。雖然有 geospatial professionals 把功能用於有益用途,但 Google 亦見到有人分享疑似違反政策的 generated imagery,因此會在 Google Earth 中回滾該功能,待加強 guardrails 後再處理。Google 同時強調,生成圖像並不會出現在其他用戶的主 Google Earth experience,並已標示為 AI generated。

這宗事件反映,AI 影像生成工具一旦接入地理、工程或公共資訊平台,風險不只在圖片本身,而在使用場景原有的公信力。對使用衛星圖、場地相片、工程進度圖或 public-facing visualizations 的團隊而言,watermark、metadata、審批流程及發布前核實機制,會成為部署 AI 圖像工具時需要同步設計的管控措施。

資料來源:The Verge。