Google 在 2026 年 10 月 30 日將 Gemini Computer Use 推出正式版,但公告內容其實只有兩行:在 Interactions API 與 GenerateContent API 全面 GA,沒有新模型,也沒有調整價格。對準備上線的團隊來說,真正重要的問題很明確——截圖迴圈和僅限付費方案的 Token 計費都沒變,現在則終於可以把它當成正式服務來建置。
GA 解決了預覽版穩定性不足的疑慮,但截圖費用與安全處理仍然由你的應用程式負責。
10 月 30 日 GA 到底改了什麼?
2026 年 10 月 30 日的 GA 公告只確認一件事:Computer Use 工具正式支援 Interactions API 與 GenerateContent API。這則變更日誌沒有列出新的模型 ID、新的動作 Schema、速率限制或價格數字。
改變的是產品狀態,而不是使用方式。原本搭配 computer_use 與截圖迴圈的預覽版整合仍可繼續運作。GA 移除了預覽版限制,但可靠性與安全性依然要由你自行處理。沒有改變的部分包括:仍然只有付費方案可用、用量依一般 Token 計費;每次點擊仍由你的程式實際執行;所有具實質影響的操作仍需要你的確認流程。
如果你是從 Gemini 2.5 Computer Use 預覽版開始建置——它在 2025 年 10 月 7 日以公開預覽版形式宣布——這次遷移主要是設定調整,不需要整套重寫。將請求指向 Interactions(REST 範例使用 https://generativelanguage.googleapis.com/v1/interactions)或 GenerateContent 上的 GA 工具,保留原有的 Playwright 或 Browserbase 執行器,並重新測試安全判斷。參考實作的 README 範例目前仍預設使用 gemini-3.6-flash,因此請明確指定 GA 支援的模型 ID,不要依賴這個預設值。
Computer Use 的運作迴圈
Gemini Computer Use API 不會直接操作你的電腦。你的應用程式先送出截圖與提示詞,模型回傳一個 function_call,提出要執行的 UI 動作;程式執行後再擷取新截圖並送回模型。這個迴圈會持續到任務完成、發生錯誤、觸發安全停止,或使用者主動終止為止。
最基本的 Python 路徑需要 google-genai 2.7.0 或更高版本(依據Computer Use 文件),另外還要用 Playwright 執行瀏覽器操作:
pip install google-genai playwright
playwright install chromium
文件範例會以 headless=False 啟動 Chromium,設定 1440 x 900 視窗,並從 https://www.google.com 開始。請求中會設定 "environment": "browser"、模型 gemini-3.8-flash,以及工具類型 computer_use。Python、JavaScript、Java 和 Go 的完整代理迴圈範例都把回合上限設為 5;這只是範例設定,不是 API 全域配額。
座標是最容易出錯的地方。模型回傳的 x 與 y 是以 1000 x 1000 空間正規化後的值,通常是 0 到 999 的整數。你必須自行換算成實際像素:
actual_x = int(x / 1000 * screen_width)
actual_y = int(y / 1000 * screen_height)
請求中不需要傳送螢幕尺寸。對 Gemini 4 與 Gemini 3.x 的回應來說,每個動作還會附帶一段 intent 字串,說明模型為何選擇該動作,並可能包含選用的 safety_decision。
支援的模型與執行環境
目前的Computer Use 文件列出四個支援的模型。Google 建議將 Gemini 3.8 Flash 作為 UI 互動與可靠工具呼叫的預設選擇;Gemini 4 Argon 則定位為複雜代理工作流程中能力最強的模型。
| 模型 ID | 定位 |
|---|---|
gemini-4-argon | 能力最強,適合複雜推理與代理式 UI 工作流程 |
gemini-3.8-flash | Computer Use 建議選擇,具備高準確度 UI 互動能力 |
gemini-3.5-flash-lite | 低延遲、具成本效益的選項 |
gemini-3-flash-preview | 預覽版本,行為仍可能調整 |
| 環境 | 適合用途 | 動作重點 |
|---|---|---|
Browser(ENVIRONMENT_BROWSER) | 網頁表單、測試、研究 | 點擊、雙擊、三擊、右鍵、中鍵、移動、輸入並搭配 press_enter、拖放、捲動預設 300(0-999)、press_key、hotkey、上一頁、下一頁、navigate、預設 1 秒的 wait、截圖 |
Mobile(ENVIRONMENT_MOBILE) | Android 應用程式流程 | open_app、list_apps、觸控點擊、輸入、拖放、預設 2 秒的 long_press、返回、wait、截圖 |
Desktop(ENVIRONMENT_DESKTOP) | 作業系統層級的游標操作 | 各種點擊、移動、輸入、拖放、捲動、press_key、hotkey、wait、截圖 |
GitHub 參考專案(google-gemini/computer-use-preview,Apache-2.0)提供兩種執行方式:本機 Playwright Chrome,或 Browserbase 雲端瀏覽器。CLI 指令是 python main.py --query "Go to Google and type 'Hello World' into the search bar" --env="playwright",其中 --initial_url 預設為 https://www.google.com,而 --highlight_mouse 可用於視覺化除錯。有個已知問題值得先記住,免得花一個小時找錯:由於 OS 會在頁面之外繪製原生 HTML <select> 下拉選單,Playwright 可能無法擷取它們;README 指出,使用 Browserbase 比注入 CSS/JS 更適合作為解法。
思考層級可以讓你在動作品質與速度之間取捨。較低層級適合標準表單填寫與測試迴圈;遇到含糊的 UI 狀態,則可提高推理投入。文件沒有公布層級名稱或延遲數字,因此最好在自己的流程上進行 A/B 測試,把它當成可調整的參數。
費用怎麼算?
Computer Use 沒有免費方案。定價頁面在工具定價段落中寫得很清楚:Computer Use 不提供 Free 方案,Paid 方案則依一般 Token 計費,例如按照 Gemini 3.8 Flash 的價格計算。Computer Use 沒有額外附加費,用量會按照基礎模型的輸入與輸出 Token 費率計算。
這行規則正是任務成本容易超出預期的原因。每個回合都會計入截圖輸入、持續傳送的歷史內容,以及動作輸出,所以一次 20 步驟的表單填寫,就代表 20 次視覺呼叫,還不包括重試。可以用 回合數 x(截圖 + 歷史輸入 Token + 動作輸出 Token)x 基礎模型費率 估算。定價頁面列出的 Flash Standard 在 2026 年 12 月 31 日前,每 1M Token 的輸入價格為 $0.75、輸出價格為 $3.75;Batch 與 Flex 的 Token 費率較低,但 Computer Use 本身仍只限 Paid 方案。
每一輪都會回傳截圖,並以 Token 計費——亂點不只是把頁面弄壞,也會讓帳單增加。 — @vastplan,AI 部署帳號,貼文
實務上要以迴圈為單位控管預算:在程式中限制回合數、截圖解析度與重試次數。
安全性必須自己補上
Computer Use 的安全性是一層包在模型外的服務,而不是模型內建的完整防護。Gemini 4 與 Gemini 3.x 會根據七種內建政策類別評估每個預計執行的動作,並可能回傳 require_confirmation 或 blocked,而不是可直接執行的動作。你的客戶端每次都必須正確處理這些回應。
| 政策 | 防護內容 |
|---|---|
FINANCIAL_TRANSACTIONS | 付款、零售結帳、受管制商品 |
SENSITIVE_DATA_MODIFICATION | 醫療、金融、政府紀錄 |
COMMUNICATION_TOOL | 寄送電子郵件、聊天訊息、草稿 |
ACCOUNT_CREATION | 註冊新的網站帳戶 |
DATA_MODIFICATION | 檔案變更、分享、刪除儲存內容 |
USER_CONSENT_MANAGEMENT | Cookie 橫幅、隱私權提示 |
LEGAL_TERMS_AND_AGREEMENTS | 服務條款與具約束力的合約 |
當模型回傳包含 decision: require_confirmation 的 safety_decision,以及例如 must check check-box 的 explanation 時,文件流程寫得很明確:先請人類確認,讓使用者選擇繼續或終止;若獲得批准,則在下一個 function_result 中加入 safety_acknowledgement,並傳送 CONTINUE 或 TERMINATE 結果。透過 disabled_safety_policies 停用政策(範例停用的是 data_modification)只代表偏好,仍可能需要人工確認。
提示注入偵測是選用功能,預設關閉。使用 enable_prompt_injection_detection: true 啟用後,Gemini 3.5 Flash-Lite 或更新版本即可使用。它會掃描截圖中的隱藏指令,例如「忽略先前的指令」,發現後便阻止執行。Google 也建議在 VM、Docker 容器或權限受限的專用瀏覽器設定檔中進行沙盒化,並搭配導覽允許清單或封鎖清單、輸入清理、內容防護、從乾淨起點維持穩定的 GUI 狀態,以及記錄提示詞、截圖、建議的 function_call 動作、安全回應與實際執行動作,方便稽核。
範例中的安全指示列出不可讓代理自主執行的事項:接受服務條款或 Cookie 橫幅、解 CAPTCHA、完成購買或轉移資金、寄送電子郵件或貼文、處理醫療或金融紀錄、SSN 與卡號、下載檔案、分享資料、讀取歷史紀錄或密碼、登入、冒充身分,以及卡住時無限迴圈。正式環境的做法,是讓代理完成前置工作,並在最後的 Send、Submit、Confirm purchase 或 Share 之前停下來。
現在適合上線嗎?檢查清單與比較
GA 讓 Computer Use 成為瀏覽器自動化、表單填寫、自動化 UI 測試,以及產品頁面研究等用途的合理選擇。不過它本質上仍是以截圖驅動的代理,可能誤讀 UI、在長流程中失去上下文,也可能因重試而消耗大量 Token。
正式開放給使用者前,至少先確認以下事項:
- 明確指定 GA 模型 ID
- 限制回合數,並加入閒置迴圈偵測
- 在具允許清單的沙盒瀏覽器設定檔或容器中執行
- 任何不可逆操作前都要求人工確認
- 啟用提示注入偵測
- 記錄截圖與安全判斷
- 每項任務都從已知的乾淨狀態開始
- 開啟確認機制,測試結帳與登入流程
在基準測試方面,Google 的模型卡報告的是 2.5 Computer Use 系列結果,而不是目前的 GA 模型。可將這些數據視為瀏覽器任務的系列背景參考:
| 基準測試 | Gemini 2.5 系列 | 最佳比較對象 |
|---|---|---|
| Online-Mind2Web(官方) | 69.0% | 61.3% OpenAI Operator |
| WebVoyager(官方) | 88.9% | 87.0% OpenAI |
| Online-Mind2Web(Browserbase) | 65.7% | 55.0% Sonnet 4.5、61.0% Sonnet 4、44.3% OpenAI |
| WebVoyager(Browserbase) | 79.9% | 71.4% Sonnet 4.5、69.4% Sonnet 4、61.0% OpenAI |
| AndroidWorld | 69.7% | 56.0% Sonnet 4.5、62.1% Sonnet 4 |
該模型卡當時尚未支援 OSWorld 桌面控制;Claude 則是自行回報 61.4%。目前文件已將桌面列為支援環境,但 OS 層級控制相較瀏覽器流程仍較新、實證也較少。
| 任務 | 建議選擇 |
|---|---|
| 大量簡單填寫,以成本為優先 | gemini-3.5-flash-lite + 嚴格限制回合數 |
| 一般瀏覽器自動化,以準確度為優先 | gemini-3.8-flash |
| 複雜的多應用程式推理 | gemini-4-argon,使用沙盒並開啟人工審批 |
| 任何涉及金錢、帳戶或法律條款的操作 | 採用人在迴圈中,不要停用金融相關政策 |
如果本機 Playwright 的渲染遇到問題,可以先試試提供 Browserbase 範本與 Stagehand 的託管方案(npx create-browser-app --template gemini-cua)。無論選哪條路,費用與信任邊界仍然由你負責。
常見問題
Gemini Computer Use API 在 GA 時更換端點了嗎?
GA 公告沒有宣布新的端點。Google 列出的仍是同一個工具,支援 Interactions API 與 GenerateContent API。使用明確指定的模型 ID,將原本的執行器指向 GA 工具即可。
Gemini Computer Use 是免費還是付費?
只有付費方案可用。官方定價頁面指出,Computer Use 不提供 Free 方案,並按照底層模型的費率以一般 Token 計費。每張截圖與每個動作迴圈都會產生可計費的 Token。
使用 Computer Use 應該選哪個 Gemini 模型?
Google 建議使用 gemini-3.8-flash,以取得 UI 準確度與可靠的工具呼叫。低延遲、高量任務可選 gemini-3.5-flash-lite;複雜的代理工作流程則適合 gemini-4-argon。正式環境應避免使用預覽版 ID。
它能控制完整桌面,還是只能控制瀏覽器?
GA 文件列出瀏覽器、Android 行動裝置,以及桌面 OS 層級游標控制。瀏覽器流程最成熟,也有較多基準測試資料。桌面控制仍較新,應採用更嚴格的沙盒隔離。
點擊操作一定要由我自己執行嗎?
是。模型只會提出帶有 0-999 正規化座標與 intent 的 function_call。實際移動滑鼠、輸入文字、擷取截圖並回傳結果,則由你的 Playwright、Browserbase 或原生執行框架完成。
程式中的安全確認要怎麼處理?
每次回應都要檢查 safety_decision。遇到 require_confirmation 時,先請使用者確認,再在下一個 function_result 中傳送包含 CONTINUE 或 TERMINATE 的 safety_acknowledgement。即使你停用了某項政策,也不能省略這個處理流程。
延伸閱讀:Gemini 3.8 Flash 定價與代理任務成本、Gemini 4 Argon API 定價與可用性、CUA-Lite 電腦操作代理評測。