廣告
xx
xx
"
"
回到網頁上方

AI浪潮 6/AI新時代!超級晶片GB200 黃仁勳:已進入量產

記者 劉俐均 / 攝影 余信翰 報導
發佈時間:2024/05/31 22:56
最後更新時間:2024/05/31 23:10

AI霸主輝達在AI人工智慧年度盛會GTC上,發表了最新的AI超級晶片「GB200」,能運轉數兆參數規模的語言模型,也代表著大型語言模型將進入「兆級參數」的時代,而這款AI晶片,我們台灣也有多家廠商跟著受惠,其中鴻海就是輝達最強晶片GB200的首批合作名單,在股東大會上,董事長劉揚偉現身,更首度曝光最新超級AI伺服器GB200,上面還有輝達執行長黃仁勳的親筆簽名。

圖/TVBS

 
輝達執行長黃仁勳:「Hopper非常出色但我們需要更大的GPU,因此我要向各位介紹,非常非常大的GPU。」

輝達AI人工智慧年度盛會「GTC大會」,最大量點,就是這款超強AI晶片。

輝達執行長黃仁勳:「2080億個電晶體,各位可以看到,我這裡可以看到兩個裸晶片之間有條細線,兩個裸晶片從未如此緊緊相接,以至於兩個裸晶片以為這是同一個晶片,兩者之間有10TB資料,每秒傳輸10TB,因此Blackwell晶片的兩端並不知道自身是哪一端,沒有記憶體區域性問題也沒有快取問題,就是個巨大的晶片。」

 
拿著最新的AI超級晶片「GB200」,是將CPU和GPU組合在一起的超級晶片,含有一顆CPU和兩顆B200的GPU,其中以次世代架構Blackwell打造而成的全新GPU「B200」,是採台積電4奈米製程,內含2080億個電晶體,根據輝達公布的數據,效能為H100的2.5倍。也是首度採水冷散熱技術,GB200相比前代產品,在能源消耗來有營運成本上,最多可降低25倍。

GB200能運轉數兆參數規模的語言模型,也代表著大型語言模型,已經進入「兆級參數」時代。

輝達執行長黃仁勳:「我們推進運算技術速度飛快,但還不夠快因此我們打造了另一款晶片,這款晶片簡直不可思議,我們稱之為NVLink交換器,其中有500億個電晶體,幾乎和Hopper一樣大,這款交換器晶片有四個NVLink,各個都達每秒1.8TB,而且具備我剛提及的運算功能,這款晶片的用途是什麼?如果能打造出這樣的晶片,就能讓每個GPU,都能同時與其他GPU全速通訊,這太瘋狂了。」

台廠相關供應鏈也陸續出列,從PCB硬板上下游到IC載板,市場點名,包括台光電、聯茂、台玻等等都可望合作,其中鴻海入列輝達最強晶片GB200的首批合作名單,在股東大會上,董事長劉揚偉現身,更首度曝光最新超級AI伺服器GB200。

鴻海董事長劉揚偉:「我們預估今年鴻海AI伺服器的營收,可以成長超過4成,那在整體伺服器的營收的占比,也會達到4成以上。」

台經院產經資料庫總監劉佩真:「那麼台廠相關受惠的一個供應鏈,當然除了在這個伺服器的代工廠商,或者是在散熱電源供應器,還有在印刷電路板以外,那麼更重要的其實是在這個半導體業,在這個先進製程還有先進封裝,在這個部分掌握度最高的,其實就是台積電。」

根據研調機構預估,輝達Blackwell新平台產品需求增加,供應鏈對GB200預計2025年出貨量有機會突破百萬顆,佔輝達高階GPU4到5成左右。
2024年被視為AIPC元年,未來CPU、GPU、NPU的組合將成為AI PC的算力基礎,
 

耐能智慧董事長劉峻誠:「模型基本上現在是每3.5個月就疊料一次,那你設計IC從開始到結束到晶片出來,最少也要一年甚至一年半到兩年都有可能,那所以變成說你的下一代晶片還沒出來之後,你就先把它疊起來,疊起來的用意就是讓它的算力增加更大、增加更大之後它才能跑得動這麼大的模型。最新的不管是這幾代的晶片,其實它最大的差異就是堆疊,然後散熱加了一些水冷,加了一些散熱板這樣,GPU它其實強的就是它堆疊的更多,然後core更多,然後散熱跟水冷加得更多這樣。」

市場傳出,一顆GB200超級晶片價格可能高達7萬美元,相當於台幣225萬,隨著輝達AI晶片不斷升級,也可望帶動台廠AI供應鏈。

 
「2024台北國際電腦展(COMPUTEX 2024)」,將於6月4日至6月7日在台北隆重舉行。展前,NVIDIA執行長黃仁勳也將於6月2日晚間7點,在臺灣大學體育館進行主題演講。精彩內容將在6月2日晚間7點至9點,透過TVBS 56頻道以及TVBS Asia頻道收看,並同步於TVBS NEWSTVBS World Taiwan YouTube頻道進行直播, 為更多人提供觀看的機會。TVBS 56頻道、TVBS NEWS的YouTube頻道也將提供獨家中文口譯,讓觀眾不受地域限制,共同見證AI時代的到來。
 
 

◤日本旅遊必買清單◢

👉超夯日本電器竟然還有額外優惠!

👉日本免稅美妝必買這些!筆記給妳

👉存起來!遊日本免稅最高再折17%



#CPU#GPU#晶片#GB200#輝達#AI

分享

share

分享

share

連結

share

留言

message

訂閱

img

你可能會喜歡

人氣點閱榜

延伸閱讀

網友回應

其他人都在看

notification icon
感謝您訂閱TVBS,跟上最HOT話題,掌握新聞脈動!

0.1351

0.0762

0.2113