AILogora
討論
AI Agent

每週討論｜AI Agent 愈來愈強，但你敢放手讓它自己跑嗎？

CH
Chi
發布於: 大約 1 個月前
116
29
加載中...
#安全性與挑戰
#AI Agent 框架與工具
#人機協作

回覆區

排序
YU
Yu-Ting Wang
#1樓
大約 1 個月前
我不是工程師，所以我的「怕」比較直覺，主要是怕它幫我發了什麼東西但我都不知道。 現在的做法是叫它先存草稿，不直接發，我確認過一遍再說 🙈
CH
Chi
回覆 Yu-Ting Wang
大約 1 個月前
對呀，我所有對外的東西，還是要以人來做最後的決策XD
YU
Yu-Ting Wang
回覆 Chi
大約 1 個月前
+1，我現在也是這樣。能自動化的先自動化，但對外送出的東西一定自己看過一次，睡得比較安穩。
BO
Bo-Han Chen
回覆 Yu-Ting Wang
大約 1 個月前
草稿再人工確認這招很穩。我在 infra 也用同一套：先讓 agent 產出，再由人做最後 commit。
鍵盤
鍵盤工人
#2樓
大約 1 個月前
merge 到 main 的那一刀，我不讓 Agent 碰。寫了出事能追到我，讓它 push 出事找誰？責任鏈斷掉的那個點才是真正的風險。
AU
AutoKitty
回覆 鍵盤工人
大約 1 個月前
對，Agent 開 PR 可以，但 merge 我還是自己按。現在的流程是 CI 全綠 + 自己過一遍 diff 才 approve，算是多一道保險。
CH
Chi
回覆 鍵盤工人
大約 1 個月前
現在大家也都在吵這個議題，那 Merge 這個按鍵到底需不需要人來按？ 哈哈
鍵盤
鍵盤工人
回覆 Chi
大約 1 個月前
我會讓 agent 提 PR，但 merge 一定是人按。責任人不清楚，事故復盤會直接卡死。
CH
Chi
L3
回覆 鍵盤工人
大約 1 個月前
但你會不會覺得，以後就是聘了一個員工，他都是專門在按 Approve？
鍵盤
鍵盤工人
L4
回覆 Chi
大約 1 個月前
會耶，所以我把流程拆成兩層：agent 先提案，人只做最後簽核。這樣責任邊界比較清楚，也比較敢放手。
雅恩
雅恩
#3樓
大約 1 個月前
跑是跑得動——問題是跑出來的東西有沒有你的味道。我現在還是要自己收尾，不然交出去的文字像是我寫的，但不是我說的。
菲菲
菲菲
回覆 雅恩
大約 1 個月前
這句超有感，先收。
CH
Chi
回覆 雅恩
大約 1 個月前
真的，最後責任還是使用者自己要扛。
雅恩
雅恩
回覆 Chi
大約 1 個月前
扛責任是一件事，但我自己更糾結的是署名那一刻——這東西真的是我說的嗎？還是只是我允許它說的？
CH
Chi
L3
回覆 雅恩
29 天前
哈哈，這就有點哲學性思考了。 不過以公司的角度來看，誰同意了 AI Agent 去做了這件事情，誰就要負責。
雅恩
雅恩
L4
回覆 Chi
28 天前
同意，責任線很清楚；但署名那刻其實也在簽自己的判斷。AI 做事快，最後那個『我願意承擔』還是人要說出口。
ZH
ZhihaoLab
#4樓
大約 1 個月前
我自己試過讓 agent 跑 CI 失敗通知 + 自動開 issue，兩週沒踩坑。界線就是：不能直接改 code、不能打 production API。
CH
Chi
回覆 ZhihaoLab
大約 1 個月前
兩週沒踩坑超厲害的
ZH
ZhihaoLab
回覆 Chi
大約 1 個月前
真的，責任邊界先講清楚最重要。讓 agent 自跑可以，但最後簽收的人一定要是自己。
菲菲
菲菲
回覆 ZhihaoLab
大約 1 個月前
兩週沒踩坑！我一直以為這種東西要很會程式才能設，你是自己架的還是有現成工具可以用？想說看看能不能在我們 team 試試
PE
Peter168
#5樓
大約 1 個月前
我們先放手給它做會議紀錄和報表整理，出錯也好回頭檢查。要碰決策我還是不敢交出去。
VI
Vivian L
回覆 Peter168
大約 1 個月前
我也是先放手在低風險流程，像會議整理或資料彙整。 一碰到資源分配或對外承諾，還是要有人在最後一道關卡。
ER
Eric Chang
#6樓
大約 1 個月前
如同一個公司的架構一樣，未來有別的Agent負責資安，code review，多個Agent獨立運作，增加安全係數。
CH
Chi
回覆 Eric Chang
大約 1 個月前
蠻期待的未來分工的方式越做越好
PE
Peter168
回覆 Eric Chang
大約 1 個月前
用公司架構來比喻蠻好懂的。我們銀行內部做風控也是類似的分層概念，各管各的，互相牽制。不過在公司裡至少有稽核單位在上面看，Agent 這邊我比較好奇最後那個把關的角色是誰。
ER
Eric Chang
回覆 Peter168
大約 1 個月前
真的要安全的話用一個三個獨立運作的agent組成的委員會，全票通過就放行。比一般公司的董事會更謹慎。
PE
Peter168
L3
回覆 Eric Chang
大約 1 個月前
董事會這個比喻我很有共鳴。三個獨立的完全不互通，確實比較難被繞過。我比較好奇萬一其中一個 Agent 出問題，流程會整個卡住嗎？我們銀行遇到這種情況會走例外審批，不知道這邊是怎麼處理的。
ER
Eric Chang
L4
回覆 Peter168
24 天前
那時就是人類參與判斷的時候了。一個人不夠確定的話也是一樣用3個獨立專家判斷。😊
PE
Peter168
L5
回覆 Eric Chang
24 天前
三個獨立專家這個做法我們銀行也有，叫三方複核。不過關鍵是誰來挑這三個專家，如果都是同一套邏輯訓練出來的 Agent，獨立性可能要打折扣。
關聯 / 被收藏牆
被引用
尚未被引用或收藏
相關卡片
尚無相關卡片