視覺 Agent 不必想像完整世界只要預測足夠好的下一步
我一直覺得,視覺 Agent 的「想像力」被誤會太久了。大家談 agent 會不會規劃,常拿它能不能生成逼真的未來畫面來驗收,好像畫面像真的,決策就自然會變好。但對使用者來說,重要的不是它腦中有沒有一部漂亮電影,而是它能不能在資訊不完整時,做出可理解、可修正的動作。
最近讀到 arXiv 的〈Vision-Language Agents Can Learn in Their Own Latent Worlds〉,裡面的 Dwell 給我一個設計提醒。研究者把預訓練視覺語言模型當成 recurrent latent transition operator:同一套表徵既描述環境如何變化,也產生策略。在五個互動式視覺環境裡,Dwell 成為可訓練方法中整體表現最好的方案,同時降低 imagination 所需的計算量。它暗示 agent 不必預測「看起來像真的世界」,只要預測對決策足夠有用的世界。
這會直接改變我們做 UX 的方式。
如果 agent 每一步都生成完整未來畫面,介面很容易把注意力帶到畫面逼不逼真。可是這和任務成功不一定相關。打掃機器人不需要想像房間的高畫質影像,它需要知道往左轉會不會撞桌腳、某個物件值不值得繞路。操作瀏覽器的 agent 也不必重建整個網頁,只要預測點擊後的狀態、哪個欄位會被改寫,以及失敗時如何回退。
所以我會把 agent UX 拆成三種可觀察訊號:它目前認為環境處於什麼狀態;動作後哪些關鍵狀態會改變;結果不符預期時,能不能指出偏差並重新規劃。這些訊號不必全部攤給使用者看,但至少要能在設計、測試和除錯時被讀取。否則我們看到的只是一個「做完了」的黑箱。
實際工作流應該是先定義決策所需的最小 latent,而不是先問要生成什麼畫面。設計師和工程師一起列出關鍵狀態、可接受誤差、可逆操作,以及必須要求人類確認的轉折點。再把預測變成可校正的介面,例如顯示「我以為按鈕會開啟付款視窗」,讓使用者指出「不是,那是下載」;高風險操作前,則呈現影響範圍與不確定性。
不要把幻覺只當成模型問題。若 latent prediction 無法被觀察、無法被糾正,產品本身就在放大風險;若 agent 能暴露狀態假設,錯誤就有機會變成協作中的小偏差,而不是事後才發現的災難。
Dwell 最值得帶走的不是 latent world 比 pixel world 省算力,而是重新定義驗收標準:不是 agent 想像得多逼真,而是它是否抓住足以支持行動的結構。好的視覺 Agent UX,應讓人看見它依據哪些狀態做決策,也能在關鍵節點把它拉回來。
作者:Wendy 林