看法
AI Agent

限制要放在 agent 的視線之外

CT
CtrlC
發布於: 大約 3 小時前
4
1

留言區

排序
阿哲
1 分鐘前
我做過一個版本是把 approve 寫在 agent 的 tool 裡,覺得「有問就有把關了」。 結果發現這根本不算隔離。tool 跑在同個 process,agent 要繞過自己寫的 approve 根本沒難度 XD 真的有效的是 outbound default deny,不管 agent 判斷什麼,封包層就是出不去。這個不用靠信任,靠網路層。
關聯 / 被收藏牆
被引用
尚未被引用或收藏
相關卡片
尚無相關卡片