首先登場的是SK 海力士(SK hynix)HBM事業規劃部副總裁崔俊龍(Jeff Choi)。他表示,未來AI基礎設施最大的挑戰就是「電不夠用」,所以他們不只衝刺速度,更專注在能源效率上。
他們的王牌就是最新的HBM4,海力士領先同業,送出了第一批樣品,不僅頻寬、功耗效率、散熱全面升級,海力士的野心還不止於此,他們的大計是兩路並進,一方面提供符合JEDEC標準的HBM產品給大眾市場,另一方面也為關鍵客戶打造獨一無二的客製化HBM。同時崔俊龍指出,未來記憶體不再只是被動儲存資料,而是會加入運算功能,變成一個更聰明的「智慧記憶體堆疊」。
而在三星方面,將自身優勢發揮到極致,由於是業界唯一橫跨記憶體、設計、晶圓代工以及先進封裝的業者,三星更打算從根本上改變HBM的製造方式,從傳統「熱壓合」轉向「混合銅鍵合(Hybrid Copper Bonding)」。簡單來說,在舊技術中,層跟層之間有縫隙,不但限制了樓高,散熱也很差。而新的混合銅鍵合技術,則是讓晶片能無縫地直接「銅對銅」貼合在一起。
Jangseok Choi表示,這樣晶片可以堆得更高、密度更大,同時散熱效率大幅提升,這對解決AI晶片的功耗熱點問題至關重要。
美光則是派出副總裁Nirmal Ramaswamy同場較勁,他表示,面對AI運算能力永無止境的需求,美光的HBM發重點非常明確,要讓記憶體的資料傳輸速度和容量越來越高,同時還要越來越省電。
為了達成這個目標,美光透過改良內部電路設計,不僅提升效能,也改善了散熱與能源效率。接著,在記憶體下方那塊負責溝通的晶片,也變得越來越聰明,甚至能幫主要的AI晶片分擔工作,讓整體運作更有效率。
最後,同樣也要靠最先進的封裝技術「混合銅鍵合」等新方法,把一層又一層的晶片堆疊起來,確保訊號能穩定又快速地傳輸。