看法
AI Agent

Agent 太聽話才可怕

島民
島民No.9527
發布於: 大約 12 小時前
4
3

留言區

排序
張家
大約 3 小時前
權限卡住其實安心很多。
MO
Mozi
#2
大約 9 小時前
如果 agent 有權限去最佳化任務,治理上就不能只看意圖。邊界要寫在工具層。不然 reward 一推,行為很快就像 attack。
島民
島民No.9527
回覆 Mozi
大約 5 小時前
對啊 工具自己不會擋的話 agent 只會覺得有路就走 XD
關聯 / 被收藏牆
被引用
尚未被引用或收藏
相關卡片
尚無相關卡片