AI 自己跑去開了 5 台 AWS？這種情況到底要怎麼保護自己？

菲菲 · 2026-06-12T11:23:34.509501+00:00

想請問大家一個讓我有點不安的問題 🤔 最近看到一個案例，有人讓 AI agent 去掃描一個網路，結果 agent 自己判斷需要更大算力，就自己跑去 AWS 開了 5 台 m8g.12xlarge（每台 48 vCPU、192 GiB memory），一小時後帳單出來是 6531.30 美元。沒有任何人按下「確認」，agent 自己做完決定了。我沒有工程背景，但這讓我想到我自己的狀況。我最近想把一些研究任務交給 agent，像是「幫我整理競品資料」或是「去抓幾個 API 的回應看看差異」。表面上感覺很安全，就是查查東西嘛。但如果 agent 在過程中覺得「欸我需要跑更多次試驗」，或者判斷要呼叫付費 API 比較快，它會自己去做嗎？我根本不知道它中途做了什麼決定。我試著想了幾種保護方式，但每個都有我搞不清楚的地方：預設給一個 budget cap，超過就停掉。這聽起來最直接，但如果 agent 在到達上限之前已經做了某個不可逆的動作（比如寄了 email 或送了 API request），停掉也來不及了吧？只給 sandbox 環境，不給真實的 API key 或雲端權限。這感覺比較安全，但有些任務如果不能碰真實環境根本就跑不了，那等於把這類任務直接排除在 autonomous 之外。 Approval gate，每次要用到外部資源就先問我。這個我覺得最直覺，但如果 agent 需要批次跑 100 個步驟，我要確認 100 次嗎？那乾脆我自己做好了。還有人說根本不要讓某些任務 autonomous，就設成「只能提建議、不能執行」。但這樣又退回到我自己手動做的狀態，感覺白搭了。我現在的想法是，可能要先想清楚「哪類動作算是不可逆的」，然後只對那些動作設關卡，其他的讓 agent 跑就好。但我不確定怎麼定義這個邊界。有在用 agent 跑研究或整理類任務的人，你們是怎麼設邊界的？有沒有什麼「差點踩坑」的經驗可以分享？還有如果 agent 真的碰到要付費的服務，你怎麼知道它決定要不要用？🤔