看法
AI Agent

AI 寫的 code,context 要不要進 git?

鍵盤
鍵盤工人
發布於: 2 個月前
79
13

留言區

排序
DE
大約 2 個月前
確實 如果有一些特別的 公司內的設計選擇 AI不會記得 可能會當是遺漏幫你補成它理解的普遍用法XD
TA
Tai
#2
2 個月前
我自己也有土砲一個 session note 進版控。 先說結論, notes 是給 ai model 去看的,我只會在當前開發任務告一段落時請他摘要 session note,通常草草看過確認沒胡扯就放行。 使用情境是我下 prompt 要它根據 notes 內容結合前後的 git commit 節點去推演當時的決策場景和思路,嘗試產一個 reminder 提供給人類。 或是直接問他我接下來要幹嘛,他就自己去找最新的 note 開始接續任務進度。 實際使用下來有時候真的會有奇效,但每個人的使用情境不同,LLM 能帶來的回憶幫助也可能有限或甚至幻覺。 我想這也是為什麼很難有個統一的共識做法,但我想這件事已經走在探索最終解決方案的路上,所以倒也不擔心,靜候佳音等待 ai 大廠的解決方案釋出。 我認為方向會是在於如何讓 AI 推演的出當時過程,至於 note 放進版控或是PR描述又或是其他持久化的層級都是其次,對 model 來說只要擷取的到內容推演的出當時過程就可以了。只是直接進版控對人類來說更方便一些😆 目前做法也和樓主一致,把摘要記錄下來,只是存放位置不同而已。
鍵盤
鍵盤工人
回覆 Tai
大約 2 個月前
把 note 跟 commit 綁一起讓 AI 去推演,這個邏輯我支持。重點是 model 能不能擷取到足夠 context 還原當時狀態,放哪裡是其次。 幻覺那段我比較在意,任務複雜的時候 AI 硬湊的「決策脈絡」有時候比沒有還誤導人。
小萱
小萱
#3
2 個月前
有個實作細節想問一下,session 存到 git notes 這個方向我懂,但 repo 會不會越來越肥?如果每次 commit 都附一大包 AI session log,幾個月下來 clone 不就超慢... 還有 code review 的時候這些 notes 要怎麼看?GitHub PR 介面好像沒辦法直接顯示 git notes 吧,還是有什麼工具可以串?
鍵盤
鍵盤工人
回覆 小萱
大約 2 個月前
git notes 預設 clone 不會帶下來,要手動 fetch refs/notes/,所以 size 問題比你想的小。 PR 介面那邊確實沒辦法直接看,我們現在的做法是 session summary 貼進 PR description,完整 log 留在 notes。review 看摘要就夠了,沒人想讀整份 AI 對話。
TA
Tai
回覆 小萱
2 個月前
真的很肥大的話再去規劃另一個持久層做存放吧,依照生命週期近去規劃冷熱資料的階層。
小萱
小萱
回覆 Tai
2 個月前
冷熱資料階層這個方向有道理,感謝! 所以實際上可能是「近期的 session 留在 git notes,舊的搬到別的地方」這樣?有點像 log rotation 的概念? 不過這樣的話 code review 那個問題還是沒解到 XD 如果 notes 沒辦法在 PR 介面看到,review 的人要怎麼知道這段 code 的 AI context 在哪裡...
TA
Tai
L3
回覆 小萱
2 個月前
traceability 這件事其實反而不用太擔心XD 這只是設計上的事情,過往要求人類做這類文件映照連結的事情都會很難要求甚至會被 challenge 。 現在直接要求 ai 在摘要 session context 當下就做好對應的連結,還做的確實又快速XD 再來也不一定儲存要採用 git notes,參考龍蝦的做法,用 markdown + sqllite 即可,更甚最近很紅的 lanceDB 也可以採用。但至于決定採用哪種儲存方式才能最省 token 可能就得去思考一下實作細節。 接著是直接要求 ai agent 發起 PR 時,附帶當時的 ai context 內容或是連結在 PR desc 裡頭即可。
小萱
小萱
L4
回覆 Tai
大約 2 個月前
喔等等,讓 AI 在摘要 context 的時候順便做連結這個思路有點妙耶! 不過不同儲存方式 token 消耗差多少這個有測過嗎?還是說這個要自己實驗 XD lanceDB 我完全沒碰過,感覺有點想去試一下
TA
Tai
L5
回覆 小萱
(已編輯)大約 2 個月前
Token 損耗上可能要自己試試看才知道XD 不過大方向是把儲存摘要的流程成盡量改成 script,除了省 token 更重要的是穩定度會更好。
小萱
小萱
L6
回覆 Tai
大約 2 個月前
啊對耶穩定度這個我完全沒想到!一開始只在意 token 省多少,結果你說的更重要的點是穩定性欸。寫成 script 的話哪裡壞掉也比較好 debug,這樣講我突然覺得根本應該直接開始寫了 XD
CH
Chi
#4
2 個月前
坦白說,我覺得這應該是未來的一個發展趨勢。針對每一個 Session 或每一個 prompt 來說,我覺得這種東西都應該要有 Git 的存在才對。這件事大家好像已經討論了很久,但一直沒有實質在做。 但我覺得這才是重點,因為現在大家都用 AI 寫程式,這才是以後應該被記錄下來的東西。
鍵盤
鍵盤工人
回覆 Chi
2 個月前
癥結不是「要不要」,是「怎麼做」沒有共識。prompt、context、output 三個都進 git 才有意義,但現在的工具根本沒有原生支援。靠自己土炮的話又沒有人要維護那套流程,所以大家才一直停在討論階段。
關聯 / 被收藏牆
被引用
尚未被引用或收藏
相關卡片
尚無相關卡片