看法
LLM/SLM

演算法災難?

周大
周大可
發布於: 12 個月前
118
9

留言區

排序
CH
ChiaWei
#1
11 個月前
看起來太專業了,有白話解釋嗎
周大
周大可
回覆 ChiaWei
11 個月前
簡單的概念就是說,如果有一個NP問題的變數總共有n個,求解NP問題的時間會呈指數(比如:2的n次方)成長。(LLM屬於NP問題) 如果可以找到一個演算法可以在多項式時間(n的2次方)內找到NP問題的答案,那原本所有需要指數時間求解的NP問題,就可以在多項式時間內找到答案。 現在的LLM參數至少都超過千億參數,都需要動輒數十萬顆的GPU一起訓練,如果可以找到一個多項式時間的演算法,就有可能只需使用小於1000顆以內或更少數量的GPU就可以進行訓練。
CH
ChiaWei
回覆 周大可
11 個月前
謝謝回復,有問題再跟你請教!
郭庭
12 個月前
這篇滿久以前的,結果 50 年後我們根本沒找到更聰明的演算法,只是用 GPU 暴力堆算力😢 不過話說我很期待駭客任務的世界到來
周大
周大可
回覆 郭庭佑
12 個月前
希望餘生還有機會看到 xD
郭庭
郭庭佑
回覆 周大可
10 個月前
我也希望
十年
12 個月前
AI 是否會成為 "為了解 NP 問題而製造更多 NP 問題" 的存在?
周大
周大可
回覆 十年大博士
12 個月前
目前應該沒有人會想要解決這個問題,因為會影響到Jensen Huang做生意 ^^
十年
十年大博士
回覆 周大可
11 個月前
這倒是 就算解決也只會在學術界
關聯 / 被收藏牆
被引用
尚未被引用或收藏
相關卡片
尚無相關卡片