隨著大型網際網路業者對AI的需求,已經從訓練延伸至推理與推論,為了滿足AI模型的商用化需求、降低資料中心耗電、提高每瓦效能,全球主要雲端與網路業者,如Google、亞馬遜、微軟、OpenAI、字節跳動、蘋果等,持續加速AI ASIC的開發與AI ASIC伺服器的佈建,市調機構Counterpoint估計AI ASIC出貨量將於2024至2027年間成長三倍。
不僅如此,Counterpoint更預估,2028年各家業者推出的AI ASIC合計出貨量將超過1500萬顆,超越以輝達為首的GPU出貨量,而2024年至2028年AI ASIC累積出貨量也將超過4000萬顆。
AI ASIC與AI ASIC伺服器爆量成長,不僅是因為Google、亞馬遜自研AI ASIC持續成長,也因為Meta、微軟自研的AI ASIC都是在2027年開始,進入大量交貨期,Counterpoint認為,這項轉變凸顯了超大規模資料中心營運商的策略轉型,即擺脫對商用晶片(例如輝達)的依賴,以優化其特定工作負載的每瓦效能。
Counterpoint表示,目前AI ASIC為雙寡頭市場,由Google TPU(市佔率64%)、亞馬遜Trainium(市佔率36%)兩家分食,其中,Google的AI模型Gemini已經自雲端延伸至邊緣端,採用率與使用率都快速成長,帶動龐大的運算需求,Google為了支持Gemini生態系統,對於開發新款TPU、佈建更多的TPU伺服器態度十分積極。
即使Google規劃中,新一代的推論TPU v8x延後一年推出,又有微軟、Meta在2027年分別大量交貨的Maia、MTIA來搶佔市佔率,Counterpoint仍預期Google 2027年在AI ASIC市佔率仍高達52%,是絕對的領先者,尤其屆時AI ASIC市場已經擴大3倍,就算市佔率下滑,換算成出貨量也會比現在更多。
Counterpoint預估,亞馬遜Trainium、Meta MTIA、微軟Maia 2027年在AI ASIC的市佔率將分別為29%、7%、6%,亞馬遜同樣在AI ASIC市佔率下滑、但市場放大三倍,而帶動Trainuim出貨量上升。


