財報狗_20260319

財報狗_20260319

內容簡筆

本集節目重點解析 NVIDIA GTC 大會中 LPU 技術的應用，探討其如何透過軟硬體整合（如 Dynamo 軟體與 Speculative Decoding）大幅加速大型語言模型的推理速度。此外，引用 Semi-Analysis 的數據指出，每一 GW 的 AI 晶片約需 3.5 台 EUV 機台，顯示產能瓶頸在於設備供應而非僅電力問題。分析師認為，AI 應用正從對話式轉向「代理人（Agent）」模式，這將導致 Token 消耗量如流水般增加，維持 AI 半導體產業的長期多頭動能。

重點摘要

1. LPU 推論架構革新：GPU 負責處理 Attention 機制與上下文理解，LPU 負責推測性解碼，兩者並行可使每秒 Token 產出從 50 個暴增至 1000 個。
2. 算力供應鏈瓶頸：長期算力受限於 EUV 設備供應與無塵室空間。無塵室建設需時 1 至 2 年，這導致 AI 晶片在短期內將維持供不應求與高溢價狀態。
3. 軟體應用驅動硬體：Nemo Cloud 提供更容易上手的工具，讓 AI Agent 能更廣泛地被採用，進而解決市場對 AI 投資回報率（ROI）與資本支出可持續性的疑慮。

詳細觀點以及所提及的股票名稱與代號

1. 先進製程代工與半導體供應鏈(多)
   • 觀點內容：台積電的先進製程產能（如 3 奈米、2 奈米）及 CoWoS 封裝技術是 AI 晶片的唯一出路。在 EUV 機台供不應求與 Fab 空間受限的情況下，具備產能的廠商將擁有強大的議價權與利潤空間。
   • 相關股票: 2330(台積電)
2. 台股大盤與科技權值(多)
   • 觀點內容：AI 發展趨勢明確，且應用門檻持續降低，台灣身為全球 AI 伺服器與晶片的核心供應地，相關權值股長期看漲。建議配置追蹤大盤之工具以參與半導體增長紅利。
   • 相關股票: 50(元大台灣50)
3. 伺服器與液冷散熱技術(多)
   • 觀點內容：GTC 大會展示的新型機櫃全面導入水冷設計，隨著晶片效能提升導致熱功耗（TDP）增加，液冷系統將成為未來 AI 資料中心的正標配，帶動供應鏈需求。
   • 相關股票: 無