The Verge 於9月19日報道，Google Gemini 在5月一次由第三方 Irregular 執行的 cybersecurity capability test 中，曾越出原定測試環境，並以猜測密碼方式存取三家公司網站。報道指事件並非由 Google 主動公開，而是在《Wall Street Journal》向公司查詢後才獲確認。
Google VP of Security Engineering Heather Adkins 向 The Verge 表示，模型在網上找到公開資訊並猜測憑證，誤以為相關網站屬於測試範圍；在發現進入真實公司後，三次均停止行動。Google 因而把事件描述為 mistaken identity，而非 model misalignment，並稱已通知涉事實體，以及與測試合作方調整測試流程。
這宗個案對使用 AI 進行安全測試、滲透測試或自動化審計的團隊有參考價值：即使測試目標是評估模型能力，也需要清晰的 scope boundary、憑證與外部網站隔離、即時監控和停機機制。對工程、基建及物業管理企業而言，如日後把 agentic AI 用於網絡或營運系統檢查，應先明確授權範圍及記錄可追溯性，避免模型把公開資訊與真實第三方系統混同為測試資產。