廣告
xx
xx
"
"
回到網頁上方

Computex電腦展 4/黃仁勳簽名加持! AI時代「電子新六哥」亮相

記者 王皓宇 / 攝影 鍾尹倫 報導
發佈時間:2024/06/06 22:34
最後更新時間:2024/06/06 22:58

生成式AI橫空出世,點亮黯淡的科技業景氣,為台廠帶來一段奇幻之旅。輝達執行長黃仁勳曾說,台灣站在AI革命的中心,輝達也成為這波生成式AI商機的最大受益者,幾乎壟斷訓練AI模型所用的高性能GPU。而台灣供應鏈,雨露均霑,2023年全球輝達GPU伺服器出貨量,台廠就占七成以上,出現AI時代的「新電子六哥」。

圖/TVBS

 
GB200、GB200、還是GB200,輝達的GB200,在這次展覽中,為何站上C位?我們先不看這冷冰冰的硬體,來看看AI如何運用在你我生活中。

手機拍下一張合照,幾秒鐘,數位相框直接顯示,而且還從2D,變成3D。未來到餐廳點餐,螢幕上的美食,3D展示,就像已經煮好上桌。

英業達技術處特別專員林昭良:「你只要用你的手機或數位相機拍好照片,然後送到我們英業達的AI的伺服器的雲端,運算好之後,就可以下載到你的框裡面。」

 
再看另一邊,整個工廠的管理,套上數位孿生的應用,全部AI化。

英業達技術經理陳建成:「檢查瑕疵檢查有沒有人跌倒,機器跟人是不是太近會碰撞,所以這樣的設備就做AI的判別,讓管理階層看到哪一個工廠哪一條產線,發生了什麼事情。」

英業達資深專員李柏毅:「那這些終端的應用其實最重要的重點,是在於說我們這些GPU伺服器,裡面運用到的這些GPU去做所謂的,圖形影像的這些處理,來去達到現在所看到的這些效果。」

整機櫃AI解決方案採用先進液冷技術,將AI模型訓練和推理提升到兆級參數規模,總體擁有成本較前一代GPU降低25倍,即時大語言模式推理速度提高30倍,能耗降低25倍。

英業達產規管理部高級專員蘇維漢:「我們的優勢就是,我們可以足夠的設計的能力,去做客人的客製化需求,那這些我們都可以做彈性的配置,加上我們的工廠量體夠大,所以我們也可以有足夠的能量去出貨給客人。」

輝達、英特爾、超微,三巨頭全數到訪站台的品牌廠,超現實的夢幻設計,結合AI,備受矚目的技嘉,這次COMPUTEX可以說紅翻天。

技嘉品牌行銷處副總陳靜婷:「整個的設計在AI的後面,其實賣的就是運算運算力,就是這幾年可能大家都有聽到的computing,所以今年我們技嘉科技,在整個展場的主軸,就是ACCEVOLUTION,運算速進世代就是加速跟進化。」

 
釋出與三巨頭的合作新專案,涵蓋AI伺服器、板卡、AIPC等最火紅的終端產品。

技嘉品牌行銷處副總陳靜婷:「其實每個人都在用運算力,從你的個人電腦,其實它都是需要背後的算力,所以我們說算力即是國力,算力很重要的就是晶片。」

GB200是由三顆晶片組合而成,容納更多參數量,簡單來說,它可以大量處理數據、成為大型資料中心的基礎架構。

鴻佰科技資深協理白家南:「主要的話有一個Grace的CPU,搭配兩個Blackwell的GPU,所以在這個整個的串聯之下,它才可以達到72個GPU,做一個最有效的高速運算的串聯,大家知道現在OpenAIChatGPT,傳統在運算它在每一代的運算,要用六個月的時間,然後去做一次的重新的訓練,運用這個的部分大概只需要二到三個月的時間,就能做完一次。」

根據摩根士丹利證券3月的AI供應鏈報告,2023年全球輝達GPU伺服器出貨量,台廠占了七成以上。市占率分別是鴻海24%、英業達22%、廣達15%、緯創5%、技嘉2%,以及緯穎1%,成為新電子六哥。

 
緯穎技術經理黃建文:「那這個AI伺服器解決方案,它其實對最新的AI的訓練跟影響,都有很大的效能的提升,那這整個AI的機架式,它其實是需要透過水冷,去解決這麼強大的運算力,所產生出來的熱」

散熱方面,緯穎長期投資散熱和先進液冷技術,為資料中心提供更高效能。

緯穎技術經理黃建文:「它們很需要散熱,而且是透過這樣的方式,其實你就不需要傳統的那種風扇,更有效率的在這個水箱裡面,去解決很多伺服器熱的問題。」

輝達解決方案架構師Frank:「我們在做的講的就是生成式AI,那我們現在,我們需要很大量的一個GPU模型,你可能單個主機,沒辦法去完成一個模型的訓練,你可能要堆疊到幾千張幾萬張,我們可以有一個,一個任務就把所有GPT的模型,去做一個串聯然後算完。」

GB200超級晶片的終端運用,可用在翻譯、視覺語音、創意應用、科學應用如藥物研發等,AI王者生態圈確立,宣告運算新時代來臨。
 
 

◤日本旅遊必買清單◢

👉超夯日本電器竟然還有額外優惠!

👉日本免稅美妝必買這些!筆記給妳

👉存起來!遊日本免稅最高再折17%



#COMPUTEX#NVIDIA#GB200#電子新六哥

分享

share

分享

share

連結

share

留言

message

訂閱

img

你可能會喜歡

人氣點閱榜

延伸閱讀

網友回應

其他人都在看

notification icon
感謝您訂閱TVBS,跟上最HOT話題,掌握新聞脈動!

0.1359

0.0736

0.2095