Category Archives: Nvidia

LLM 記憶體用量縮減 20 倍!NVIDIA 超狂新技術 KVTC,靠「KV 快取」翻轉記憶體瓶頸

作者 |發布日期 2026 年 03 月 21 日 8:40 | 分類 AI 人工智慧 , Nvidia , 記憶體

輝達(NVIDIA)研究人員提出一種新技術,可大幅降低大型語言模型在追蹤對話歷史時所需的記憶體,最高可達 20 倍,且不需修改模型本身。外界期待,隨著記憶體用量大幅下降,是否意味著有望降低對記憶體的依賴。 繼續閱讀..

光通訊成顯學,高明鐵攻耦光關鍵製程卡位 AI 基建

作者 |發布日期 2026 年 03 月 20 日 13:31 | 分類 Nvidia , 材料、設備

隨 AI 算力需求快速爆發,資料中心傳輸瓶頸正由運算端轉向高速互連,光通訊技術地位持續攀升。輝達執行長黃仁勳於 GTC 大會指出,未來資料中心將走向「光銅並進」架構,並宣布首款 CPO(共同封裝光學)交換器進入量產,攜手台積電開發 Spectrum X 晶片,顯示 AI 網路正加速邁入光學時代。 繼續閱讀..

光寶 GTC 展示 5G O-RAN 小基站,結合輝達平台強化網通應用

作者 |發布日期 2026 年 03 月 19 日 14:00 | 分類 Nvidia , 網通設備 , 零組件

光寶科技在輝達 GTC 亮相一款與 NVIDIA DGX Spark 相容的 5G O-RAN 小基站,結合邊緣 AI 運算平台與無線接取網路(RAN)設備,鎖定企業專網與智慧應用場域,鎖定 AI 與無線網路整合應用。該方案透過 AI-RAN 架構,強調在邊緣端的彈性部署與可擴充能力。 繼續閱讀..

「直接且故意竊盜」,出版商控告蘋果等科技公司用盜版書籍訓練 AI 模型

作者 |發布日期 2026 年 03 月 19 日 9:50 | 分類 AI 人工智慧 , Apple , Meta

書籍出版商「心靈雞湯」(Chicken Soup for the Soul)3 月 18 日在加州聯邦法院對蘋果公司及其他幾家科技公司提起版權侵權訴訟,指控這些公司使用盜版書籍來訓練其人工智慧模型。根據訴訟,蘋果被指控依賴於 The Pile 數據集,該數據集包含未經授權的靈感書籍副本,這些書籍是該系列的一部分,全球銷量超過 5 億本。 繼續閱讀..

避開反壟斷,輝達 200 億美元授權 Groq LPU 技術內幕

作者 |發布日期 2026 年 03 月 19 日 9:40 | 分類 AI 人工智慧 , GPU , Nvidia

在 18 日的年度開發者大會上,輝達(Nvidia)首席執行長黃仁勳宣布一項重大的收購交易,該交易涉及授權 AI 推理技術公司 Groq 的語言處理單元(LPU),並聘用其創始人 Jonathan Ross 等關鍵人員,交易價值約為 200 億美元。這筆交易使 Nvidia 能夠在不完全擁有 Groq 的情況下,增強其推理能力,避免了潛在的反壟斷問題,並將 Groq 的技術整合到 Nvidia 的產品中,特別是 Vera Rubin 伺服器堆疊。 繼續閱讀..

光寶科攜手雲達科技布局輝達 Vera Rubin,打造電源解決方案

作者 |發布日期 2026 年 03 月 18 日 16:37 | 分類 Nvidia , 零組件

光寶科技於輝達 GTC 2026 展會中,攜手雲達科技(Quanta Cloud Technology, QCT)展示基於輝達 Vera Rubin NVL72 架構的 AI 機架式平台,此平台配置 110kW Power Shelf(機架式電源),強調高功率密度與優化能源配置,瞄準 AI 資料中心快速攀升的高運算需求。 繼續閱讀..

NVIDIA 多元產品分攻 AI 訓練、推理需求,迎戰 CSP 自研 ASIC 規模升級

作者 |發布日期 2026 年 03 月 18 日 15:50 | 分類 AI 人工智慧 , GPU , Nvidia

根據 TrendForce 最新 AI server 研究,在大型雲端服務供應商(CSP)加大自研晶片力道的情況下,NVIDIA 於 GTC 2026 大會改為著重各領域的 AI 推理應用落地,有別於以往專注雲端 AI 訓練市場。其推動 GPU、CPU 以及 LPU 等多元產品軸線分攻 AI 訓練、AI 推理需求,並藉由 Rack 整合方案帶動供應鏈成長。 繼續閱讀..

天生為代理 AI 而來,聊聊 NVIDIA BlueField-4 STX 儲存架構帶來什麼改變 ?

作者 |發布日期 2026 年 03 月 18 日 15:40 | 分類 AI 人工智慧 , GPU , Nvidia

快速崛起的「代理 AI」(Agentic AI)需求,以及大型語言模型(LLM)對長上下文推理的嚴苛條件,輝達 2026 GTC 大會發表專為 AI 叢集設計的全新模組化儲存參考架構──BlueField-4 STX。這項被譽為「為代理 AI 打造最强大腦」的革命性技術,不僅重塑傳統資料中心的儲存堆疊,更在資料處理速度、處理量與能耗表現實現了前所未有的推進。

繼續閱讀..

黃仁勳稱是「圖形界 GPT 時刻」,玩家卻怒批 DLSS 5 摧毀遊戲美學

作者 |發布日期 2026 年 03 月 18 日 10:50 | 分類 AI 人工智慧 , Nvidia , 遊戲軟體

輝達(Nvidia)最近宣布的 DLSS 5 技術引發爭議,許多玩家批評其視覺效果為「AI 垃圾」(AI slop),認為這會破壞遊戲的原始藝術風格。這項新技術利用 AI 驅動的神經渲染,旨在提升遊戲的光影和材質,實現更具真實感的視覺效果,但早期的展示卻讓不少玩家感到不安。 繼續閱讀..