黃仁勳在今年1月初的CES開場演說上,首度捧著Spark亮相,他在6月初更盛讚Spark是「我最喜歡的小機器」。Spark的AI算力為1000 TOPS,與全世界第一台AI伺服器輝達DGX-1相同,但比起DGX-1一台就重達61公斤,Spark重量僅有1.2公斤、體積只有DGX-1的2%,是最迷你的AI伺服器。
輝達表示,透過Spark,開發者可在地端對高達2,000億參數的AI模型進行推論,並微調高達700億參數的模型。此外,Spark亦可讓開發者在地端建立AI代理並執行進階軟體堆疊。
然而,本報在6月時獨家披露,Spark上市嚴重遞延,黃仁勳原先預期在CES舞台上預期Spark 5月就能上市、並成為送給AI開發者與工程師最好的耶誕節禮物,可是業界人士透露,主因是輝達內部開發不順。從原定的5月延到今天,輝達終於準備好了。
黃仁勳並為此專程前往德州的Space X,以便將Spark親手交給馬斯克,「我們於2016年打造DGX-1,讓AI研究者擁有自己的超級電腦,我在一家名為OpenAI的小型新創把第一套系統親手交給馬斯克,ChatGPT由此誕生,點燃了AI革命的序幕。DGX-1開啟AI超級電腦的時代,Spark讓我們回到最初的使命,把AI電腦交到每位開發者手中,掀起新一波的技術突破」,黃仁勳感性地說。
輝達表示,Spark的早期用戶,包括 Anaconda、Cadence、ComfyUI、Docker、Google、Hugging Face、JetBrains、LM Studio、Meta、微軟、Ollama、Roboflow等,都開始在Spark上測試、驗證並最佳化其工具、軟體與模型,全球研究機構亦已搶先體驗Spark以推進 AI研發,其中包括NYU Global Frontier Lab,NYU Global Frontier Lab電腦與資料科學教授Kyunghyun Cho盛讚,Spark讓他們在桌面就能取得petaflop等級的運算能力。
Spark即日起出貨、10月15日在輝達官網銷售,建議售價為3999美元,輝達合作夥伴包括宏碁、華碩、戴爾、技嘉、惠普、聯想、微星等,也根據Spark參考設計開發相似的產品,並於美國 Micro Center 門市上架,同時透過輝達全球通路合作夥伴供應。不過,輝達並未說明合作夥伴機種的上市時間。