【FOCUS】螺絲殼裏做道場,DeepSeek致勝啟示

28/01/2025

  「算力出奇跡」VS「螺絲殼裏做道場」,到底哪個技高一籌?AI股王英偉達輝周一(27日)市值蒸發5890億美元,如對前者的當頭棒喝,盛行多年的AI核心假設--資金多即是強、算力高即是好,遭奉行後者的DeepSeek徹底打破。

 

AI多年核心假設一朝打破

 

  Meta的朱克伯格上周拋出「2025年資本支出高達650億美元」、「年底擁有130萬顆GPU」的震撼彈,短短三天後,AI界的「大躍進」敘事即畫風驟變,皆因跟OpenAI O1大模型分庭抗禮的DeepSeek-R1大模型,被揭訓練成本低至560萬美元,使用的英偉達GPU數量僅2048顆,且型號是上一代H800。

 

【FOCUS】螺絲殼裏做道場,DeepSeek致勝啟示

DeepSeek異軍突起,拖累英偉達輝周一(27日)市值蒸發5890億美元。

 

  OpenAI首席執行官Sam Altman周二最新表示,DeepSeek-R1大模型令人印象深刻,但堅稱「現在比以往任何時刻,都需要更強的算力來完成使命。」

 

強化學習+混合專家架構

 

  面對有「AI界拼多多」之稱的中國「黑馬」公司,何解Sam Altman仍執著算力?答案指向其大模型訓練路徑。據OpenAI創始成員Andrej Karpathy解釋,訓練分為4個階段:一,預訓練(「投喂」大量文字並設定權重),建立基礎LLM模型;二,監督微調(以少量高品質的資料提示完成特定任務),建立SFT模型;三,獎勵模型(對回應進行打分並相應調整權重);四,強化學習(在獎勵模型下不斷調整以獲得更高分數),最終獲得RLHF(人類反饋強化學習)模型。

 

【FOCUS】螺絲殼裏做道場,DeepSeek致勝啟示

DeepSeek依賴大規模強化學習(RL)訓練大模型,並將論文公開發表。

 

  DeepSeek則選擇跳過監督微調,而依賴大規模強化學習(RL),而這種方法允許模型自行探索思維鏈(CoT) ,以直接獲得更好表現。此外,DeepSeek採用MoE(混合專家)架構,即每個任務只激活相應的「專家(參數)」,意味顯著減少計算時間和算力需求。

 

借分享突破邊界吸引人才

 

  令人尤為驚訝的是,這兩大「殺手鐧」,DeepSeek都將相關研究論文--19頁《通過強化學習激勵大模型的推理能力》、33頁《在MoE語言模型中邁向終極專家專業化》經Arxiv學術平台公開分享。

 

  如此「慷慨」的原因何在?據DeepSeek自己的回答:「在快速發展的AI領域,合作和開放式的思想交流對於快速創新至關重要」,「是否擔心他人『趕上』並非主要考量,相反,重點在於突破可能的邊界,並分享這些進步,讓所有人受惠」,「通過分享研究成果,DeepSeek也能建立自己的思想領袖地位,並吸引人才和合作夥伴,以進一步實現其目標。」

 

【FOCUS】螺絲殼裏做道場,DeepSeek致勝啟示

鄭州連鎖餐廳靠免費派發低成本的氣球,做出了月租數萬元廣告牌沒有的效果。

 

  相比之下,名為「開放」的OpenAI拒絕如DeepSeek一樣開源,格局無疑小得多。聯想河南鄭州的一家連鎖餐廳,面對每月僅700元的廣告預算,靠免費派發每個成本僅幾毫子的氣球,做出了月租數萬元廣告牌沒有的效果,所謂「螺螄殼裏做道場」,即是不信邪、不拘泥地靈活變通,終能出奇制勝。

 

  那麼,Nvidia的神話有無結束?看看黃仁勳月初在「國際消費電子展CES 2025」上的展示,RTX 50 GPU、低價AI超級電腦Project Digits、人形機器人Cosmos……答案同樣是否。

 

撰文:金子安

《說說心理話》成人亦會專注力不足?嘉賓分享中年確診過度活躍症+自閉症過程!► 即睇

延伸閱讀

More
  • 道瓊斯工業平均指數
    升 43,503.35
    +42.14 (+0.097%)
  • 標準普爾500指數
    跌 5,950.93
    -32.32 (-0.540%)
  • 納斯達克綜合指數
    跌 19,054.46
    -232.47 (-1.205%)
精選預託證券 More
00003 香港中華煤氣
按盤價(HKD)︰升5.605
變動率︰+6.754%
較港股︰-8.42%
00005 滙豐控股
按盤價(HKD)︰升89.070
變動率︰+2.846%
較港股︰+2.26%
00388 香港交易所
按盤價(HKD)︰升346.267
變動率︰+2.414%
較港股︰+0.72%
00700 騰訊控股
按盤價(HKD)︰升485.894
變動率︰+1.395%
較港股︰+0.23%
精選中資美股 More
BILI 嗶哩嗶哩
按盤價(USD)︰升21.575
變動率︰+5.090%
BABA 阿里巴巴
按盤價(USD)︰升133.540
變動率︰+3.487%
JD 京東
按盤價(USD)︰升40.090
變動率︰+1.984%
GDS 萬國數據
按盤價(USD)︰跌38.630
變動率︰-2.400%
精選美股 More
SHOP
Shopify
按盤價(USD)︰跌108.480
變動率︰-6.062%
COIN
Coinbase Global
按盤價(USD)︰跌209.285
變動率︰-7.832%
ZM
Zoom視頻通訊
按盤價(USD)︰跌74.485
變動率︰-8.157%
TSLA
特斯拉
按盤價(USD)︰跌302.460
變動率︰-8.492%
美國指數之報價延遲最少15分鐘。
美股之報價延遲最少15分鐘。
美國時間為 : 25/02/2025 12:50 EST
港股之報價延遲最少15分鐘,更新時間為:25/02/2025 18:00
美國指數之報價延遲最少15分鐘。
美國時間為 : 25/02/2025 12:50 EST
顯示更多
緊貼市況
  • 03302 精技集團
  • 0.105
  • 02801 安碩中國
  • 23.480
  • 01810 小米集團-W
  • 53.200
  • 08377 維港育馬
  • 0.085
  • 06628 創勝集團-B
  • 1.360
  • 02518 汽車之家—S
  • 56.300
  • 目標︰--
  • 09988 阿里巴巴-W
  • 130.600
  • 目標︰$176.00
  • 00293 國泰航空
  • 10.100
  • 目標︰$10.66
  • 01913 普拉達
  • 64.750
  • 目標︰$76.00
  • 00696 中國民航信息網絡
  • 11.820
  • 目標︰--
  • 09988 阿里巴巴-W
  • 130.600
  • 00700 騰訊控股
  • 484.800
  • 00388 香港交易所
  • 343.800
  • 01810 小米集團-W
  • 53.200
  • 00005 滙豐控股
  • 87.100
  • 09660 地平線機器人-W
  • 9.280
  • 目標︰$10.00
  • 01347 華虹半導體
  • 38.750
  • 目標︰$50.00
  • 02318 中國平安
  • 46.500
  • 目標︰$60.00
品味生活
備註: 本地指數之報價為即時更新,資料更新時間為 25/02/2025 18:00
中國指數之報價為即時更新,資料更新時間為 25/02/2025 16:29
期指之報價為即時更新,資料更新時間為 26/02/2025 01:50
緊貼市況之報價延遲最少15分鐘,資料更新時間為 25/02/2025 16:40
港股即時基本市場行情由香港交易所提供; 香港交易所指定免費發放即時基本市場行情的網站
放大顯示
精選影片
人氣文章
財經新聞
評論
專題
  • 生活
  • DIVA
  • 健康好人生
專業版
HV2
精裝版
SV2
串流版
IQ 登入
強化版
TQ
強化版
MQ

etnet榮膺「第九屆傳媒轉型大獎」四大獎項

【限時優惠$68/月】申請etnet強化版MQ手機串流報價服務 捕捉板塊輪動,提高獲利勝算

etnet榮獲HKEX Awards 2023 「最佳證券數據供應商」大獎

大國博弈

2025-26年度財政預算案

貨幣攻略

說說心理話

Watch Trends 2024

北上食買玩

Art Month 2024

理財秘笈

流感高峰期

山今養生智慧

輕鬆護老