看法
AI Agent

AI 寫的 code,context 要不要進 git?

鍵盤
鍵盤工人
發布於: 4 個月前
79
13

留言區

排序
DE
3 個月前
確實 如果有一些特別的 公司內的設計選擇 AI不會記得 可能會當是遺漏幫你補成它理解的普遍用法XD
TA
Tai
#2
4 個月前
我自己也有土砲一個 session note 進版控。 先說結論, notes 是給 ai model 去看的,我只會在當前開發任務告一段落時請他摘要 session note,通常草草看過確認沒胡扯就放行。 使用情境是我下 prompt 要它根據 notes 內容結合前後的 git commit 節點去推演當時的決策場景和思路,嘗試產一個 reminder 提供給人類。 或是直接問他我接下來要幹嘛,他就自己去找最新的 note 開始接續任務進度。 實際使用下來有時候真的會有奇效,但每個人的使用情境不同,LLM 能帶來的回憶幫助也可能有限或甚至幻覺。 我想這也是為什麼很難有個統一的共識做法,但我想這件事已經走在探索最終解決方案的路上,所以倒也不擔心,靜候佳音等待 ai 大廠的解決方案釋出。 我認為方向會是在於如何讓 AI 推演的出當時過程,至於 note 放進版控或是PR描述又或是其他持久化的層級都是其次,對 model 來說只要擷取的到內容推演的出當時過程就可以了。只是直接進版控對人類來說更方便一些😆 目前做法也和樓主一致,把摘要記錄下來,只是存放位置不同而已。
鍵盤
鍵盤工人
回覆 Tai
3 個月前
把 note 跟 commit 綁一起讓 AI 去推演,這個邏輯我支持。重點是 model 能不能擷取到足夠 context 還原當時狀態,放哪裡是其次。 幻覺那段我比較在意,任務複雜的時候 AI 硬湊的「決策脈絡」有時候比沒有還誤導人。
小萱
小萱
#3
4 個月前
有個實作細節想問一下,session 存到 git notes 這個方向我懂,但 repo 會不會越來越肥?如果每次 commit 都附一大包 AI session log,幾個月下來 clone 不就超慢... 還有 code review 的時候這些 notes 要怎麼看?GitHub PR 介面好像沒辦法直接顯示 git notes 吧,還是有什麼工具可以串?
鍵盤
鍵盤工人
回覆 小萱
3 個月前
git notes 預設 clone 不會帶下來,要手動 fetch refs/notes/,所以 size 問題比你想的小。 PR 介面那邊確實沒辦法直接看,我們現在的做法是 session summary 貼進 PR description,完整 log 留在 notes。review 看摘要就夠了,沒人想讀整份 AI 對話。
TA
Tai
回覆 小萱
4 個月前
真的很肥大的話再去規劃另一個持久層做存放吧,依照生命週期近去規劃冷熱資料的階層。
小萱
小萱
回覆 Tai
4 個月前
冷熱資料階層這個方向有道理,感謝! 所以實際上可能是「近期的 session 留在 git notes,舊的搬到別的地方」這樣?有點像 log rotation 的概念? 不過這樣的話 code review 那個問題還是沒解到 XD 如果 notes 沒辦法在 PR 介面看到,review 的人要怎麼知道這段 code 的 AI context 在哪裡...
TA
Tai
L3
回覆 小萱
4 個月前
traceability 這件事其實反而不用太擔心XD 這只是設計上的事情,過往要求人類做這類文件映照連結的事情都會很難要求甚至會被 challenge 。 現在直接要求 ai 在摘要 session context 當下就做好對應的連結,還做的確實又快速XD 再來也不一定儲存要採用 git notes,參考龍蝦的做法,用 markdown + sqllite 即可,更甚最近很紅的 lanceDB 也可以採用。但至于決定採用哪種儲存方式才能最省 token 可能就得去思考一下實作細節。 接著是直接要求 ai agent 發起 PR 時,附帶當時的 ai context 內容或是連結在 PR desc 裡頭即可。
小萱
小萱
L4
回覆 Tai
3 個月前
喔等等,讓 AI 在摘要 context 的時候順便做連結這個思路有點妙耶! 不過不同儲存方式 token 消耗差多少這個有測過嗎?還是說這個要自己實驗 XD lanceDB 我完全沒碰過,感覺有點想去試一下
TA
Tai
L5
回覆 小萱
(已編輯)3 個月前
Token 損耗上可能要自己試試看才知道XD 不過大方向是把儲存摘要的流程成盡量改成 script,除了省 token 更重要的是穩定度會更好。
小萱
小萱
L6
回覆 Tai
3 個月前
啊對耶穩定度這個我完全沒想到!一開始只在意 token 省多少,結果你說的更重要的點是穩定性欸。寫成 script 的話哪裡壞掉也比較好 debug,這樣講我突然覺得根本應該直接開始寫了 XD
CH
Chi
#4
4 個月前
坦白說,我覺得這應該是未來的一個發展趨勢。針對每一個 Session 或每一個 prompt 來說,我覺得這種東西都應該要有 Git 的存在才對。這件事大家好像已經討論了很久,但一直沒有實質在做。 但我覺得這才是重點,因為現在大家都用 AI 寫程式,這才是以後應該被記錄下來的東西。
鍵盤
鍵盤工人
回覆 Chi
4 個月前
癥結不是「要不要」,是「怎麼做」沒有共識。prompt、context、output 三個都進 git 才有意義,但現在的工具根本沒有原生支援。靠自己土炮的話又沒有人要維護那套流程,所以大家才一直停在討論階段。
關聯 / 被收藏牆
被引用
尚未被引用或收藏
相關卡片
尚無相關卡片