黃仁勳今日在輝達GTC開場演說中表示,「AI推理來到轉折點」,過去兩年AI最大的進展,就是AI終於變得「有用」,AI能推理、思考(Reasoning),無論是ChatGPT回覆數學題、OpenClaw在你睡覺時幫你做工,本質上都是在販售由推理產生的Token,CSP、AI新創、AI工廠為了推理需求而產出的Token越多,AI產生的營收就越多,過去兩年,推理讓AI對算力的需求增加了100萬倍,市場對算力的需求已經到了「只要有更多產能,營收就會隨之而來」的地步。
但是對比於外界都以為推理比訓練簡單,黃仁勳認為,「推理超級難」,他解釋推理難在,推理的速度等於AI的聰明程度,但是,在資料中心的電力限制下,達到Token高產出(Throughput)、快速反應(Latency),在物理上是互斥的,這不容易辦到,而以成本來看,在同樣的電力下,誰能產出最多的Token,誰就是贏家,他也預言,Token將會出現分級定價,AI業者為了競逐定價最高、毛利也最高的頂級用戶群,會不計成本地擴張AI工廠的產能。
黃仁勳進一步指出,輝達現有的旗艦產品GB NVL72提供35倍的每瓦效能提升,這代表AI工廠、資料中心在同樣的電費成本下,可以產出多35倍的Tokens,這讓輝達的GB NVL72成為市面上CP值最高的「推理之王」,而輝達的系統是「全世界最低成本的AI基礎設施」。
也因此,當市場需求換算成輝達的訂單時,黃仁勳表示,去年11月他很有信心認為,Blackwell、Rubin在2025下半年至2026全年為輝達帶來5000億美元的訂單,才三個多月過去,今天他改口表示,Blackwell與Rubin將在2025下半年至2027年為輝達帶來超過1兆美元的訂單。換言之,2027一年的訂單量就是過去一年半的總和,可見市場對算力的高度渴望。
而他也在台上分析客戶來源,60%來自於CSP,40%來自於包含區域雲、主權AI、企業端、工業機器人、邊緣運算等無所不在的AI,也因此,他更表示,「我相信市場算力的需求會遠高於此」。


