AI相關類股股價在11、12月遭到市場無情地修正,甲骨文負債比過高、AI資料中心興建進度不如預期等負面新聞,都被市場放大成即將AI泡沫化的訊號,加上輝達大客戶Google、亞馬遜的自研AI晶片都被擴大採用,甚至打入競爭對手的資料中心供應鏈,輝達股價從11月開始就「跌跌不休」,不僅11月份累計下跌約 12.6%,股價更於12月中旬進一步探底、跌至約174美元的波段低點,若從10月底高點202美元計算,輝達12月股價最大修正幅度曾超過 14%,直到下旬才反彈。
也因為外界對AI需求的信念看來非常不堅定,常常因為一點小事就大賣輝達股票,黃仁勳在CES開場演說中給AI需求「定錨」,他以「瘋狂(Insane)」來形容市場對AI硬體的需求程度,因為AI模型的參數平均每年增加10倍、AI推論思考時需要從模型調度的參數量每年增加5倍,每個Token生成的成本也以每年降低9成的速度下降,所以AI訓練、推論、運算所需的硬體依舊很搶手。
黃仁勳以Deep Seek為例,輝達將Deep Seek模型蒸餾成有10兆個參數、100兆個token,用來模擬技術最尖端的大語言模型,如果用輝達新一代AI平台Vera Rubin來訓練,可以比用GB訓練省下四分之一的時間完成訓練,在競爭激烈的尖端模型市場中脫穎而出、成為領先者,而如果VR應用在每個造價高達50億美元的AI工廠,用VR產出的Token的產量將比GB多10倍,換言之,每個Token的成本將只要GB的十分之一。
黃仁勳再度展現,客戶如果用越先進的輝達AI平台,就能越在AI模型的激烈競爭中獲勝、也能省下越多成本。
