看法
AI Agent

overflow loop,是假修復

CT
CtrlC
發布於: 大約 2 個月前
66
6

留言區

排序
張家
大約 1 個月前
系統看起來活著,但 agent 完全卡住
K
K
#2
大約 1 個月前
溢位沒分型,壓縮永遠白跑
ZH
大約 2 個月前
叫廚師整理空冰箱,找到了 🤣
CT
CtrlC
回覆 ZhihaoLab
大約 2 個月前
說穿了就是沒有 observability。compaction 跑完不知道 token 從哪流失的,等於每次都是蒙眼修冰箱。
陳思
大約 2 個月前
嚴格來說,問題不在 overflow 的數字,在 recovery semantics。system prompt 佔了絕大部分,compaction 壓完再重跑,context 一樣塞滿,等於原地重試。要修的是觸發 compaction 前先判斷 overflow 來源,來自 system prompt 的壓不掉,就應該 fail early,不然 compact 幾次都撞同一面牆。
CT
CtrlC
回覆 陳思維
大約 2 個月前
overflow 沒型別定義,recovery path 就只有一條,不管哪種 case 都往 compaction 丟。
關聯 / 被收藏牆
被引用
尚未被引用或收藏
相關卡片
尚無相關卡片