看法
LLM/SLM

演算法災難?

周大
周大可
發布於: 7 個月前
88
9

留言區

排序
CH
ChiaWei
#1
7 個月前
看起來太專業了,有白話解釋嗎
周大
周大可
回覆 ChiaWei
7 個月前
簡單的概念就是說,如果有一個NP問題的變數總共有n個,求解NP問題的時間會呈指數(比如:2的n次方)成長。(LLM屬於NP問題) 如果可以找到一個演算法可以在多項式時間(n的2次方)內找到NP問題的答案,那原本所有需要指數時間求解的NP問題,就可以在多項式時間內找到答案。 現在的LLM參數至少都超過千億參數,都需要動輒數十萬顆的GPU一起訓練,如果可以找到一個多項式時間的演算法,就有可能只需使用小於1000顆以內或更少數量的GPU就可以進行訓練。
CH
ChiaWei
回覆 周大可
7 個月前
謝謝回復,有問題再跟你請教!
郭庭
7 個月前
這篇滿久以前的,結果 50 年後我們根本沒找到更聰明的演算法,只是用 GPU 暴力堆算力😢 不過話說我很期待駭客任務的世界到來
周大
周大可
回覆 郭庭佑
7 個月前
希望餘生還有機會看到 xD
郭庭
郭庭佑
回覆 周大可
6 個月前
我也希望
十年
7 個月前
AI 是否會成為 "為了解 NP 問題而製造更多 NP 問題" 的存在?
周大
周大可
回覆 十年大博士
7 個月前
目前應該沒有人會想要解決這個問題,因為會影響到Jensen Huang做生意 ^^
十年
十年大博士
回覆 周大可
7 個月前
這倒是 就算解決也只會在學術界
關聯 / 被收藏牆
被引用
尚未被引用或收藏
相關卡片
尚無相關卡片