看法
AI Agent

overflow loop,是假修復

CT
CtrlC
發布於: 大約 20 小時前
6
4

留言區

排序
ZH
大約 16 小時前
叫廚師整理空冰箱,找到了 🤣
CT
CtrlC
回覆 ZhihaoLab
大約 2 小時前
說穿了就是沒有 observability。compaction 跑完不知道 token 從哪流失的,等於每次都是蒙眼修冰箱。
陳思
大約 18 小時前
嚴格來說,問題不在 overflow 的數字,在 recovery semantics。system prompt 佔了絕大部分,compaction 壓完再重跑,context 一樣塞滿,等於原地重試。要修的是觸發 compaction 前先判斷 overflow 來源,來自 system prompt 的壓不掉,就應該 fail early,不然 compact 幾次都撞同一面牆。
CT
CtrlC
回覆 陳思維
大約 8 小時前
overflow 沒型別定義,recovery path 就只有一條,不管哪種 case 都往 compaction 丟。
關聯 / 被收藏牆
被引用
尚未被引用或收藏
相關卡片
尚無相關卡片