生成式AI橫空出世,點亮黯淡的科技業景氣,為台廠帶來一段奇幻之旅。輝達執行長黃仁勳曾說,台灣站在AI革命的中心,輝達也成為這波生成式AI商機的最大受益者,幾乎壟斷訓練AI模型所用的高性能GPU。而台灣供應鏈,雨露均霑,2023年全球輝達GPU伺服器出貨量,台廠就占七成以上,出現AI時代的「新電子六哥」。
手機拍下一張合照,幾秒鐘,數位相框直接顯示,而且還從2D,變成3D。未來到餐廳點餐,螢幕上的美食,3D展示,就像已經煮好上桌。
英業達技術處特別專員林昭良:「你只要用你的手機或數位相機拍好照片,然後送到我們英業達的AI的伺服器的雲端,運算好之後,就可以下載到你的框裡面。」
英業達技術經理陳建成:「檢查瑕疵檢查有沒有人跌倒,機器跟人是不是太近會碰撞,所以這樣的設備就做AI的判別,讓管理階層看到哪一個工廠哪一條產線,發生了什麼事情。」
英業達資深專員李柏毅:「那這些終端的應用其實最重要的重點,是在於說我們這些GPU伺服器,裡面運用到的這些GPU去做所謂的,圖形影像的這些處理,來去達到現在所看到的這些效果。」
整機櫃AI解決方案採用先進液冷技術,將AI模型訓練和推理提升到兆級參數規模,總體擁有成本較前一代GPU降低25倍,即時大語言模式推理速度提高30倍,能耗降低25倍。
英業達產規管理部高級專員蘇維漢:「我們的優勢就是,我們可以足夠的設計的能力,去做客人的客製化需求,那這些我們都可以做彈性的配置,加上我們的工廠量體夠大,所以我們也可以有足夠的能量去出貨給客人。」
輝達、英特爾、超微,三巨頭全數到訪站台的品牌廠,超現實的夢幻設計,結合AI,備受矚目的技嘉,這次COMPUTEX可以說紅翻天。
技嘉品牌行銷處副總陳靜婷:「整個的設計在AI的後面,其實賣的就是運算運算力,就是這幾年可能大家都有聽到的computing,所以今年我們技嘉科技,在整個展場的主軸,就是ACCEVOLUTION,運算速進世代就是加速跟進化。」
技嘉品牌行銷處副總陳靜婷:「其實每個人都在用運算力,從你的個人電腦,其實它都是需要背後的算力,所以我們說算力即是國力,算力很重要的就是晶片。」
GB200是由三顆晶片組合而成,容納更多參數量,簡單來說,它可以大量處理數據、成為大型資料中心的基礎架構。
鴻佰科技資深協理白家南:「主要的話有一個Grace的CPU,搭配兩個Blackwell的GPU,所以在這個整個的串聯之下,它才可以達到72個GPU,做一個最有效的高速運算的串聯,大家知道現在OpenAIChatGPT,傳統在運算它在每一代的運算,要用六個月的時間,然後去做一次的重新的訓練,運用這個的部分大概只需要二到三個月的時間,就能做完一次。」
根據摩根士丹利證券3月的AI供應鏈報告,2023年全球輝達GPU伺服器出貨量,台廠占了七成以上。市占率分別是鴻海24%、英業達22%、廣達15%、緯創5%、技嘉2%,以及緯穎1%,成為新電子六哥。
散熱方面,緯穎長期投資散熱和先進液冷技術,為資料中心提供更高效能。
緯穎技術經理黃建文:「它們很需要散熱,而且是透過這樣的方式,其實你就不需要傳統的那種風扇,更有效率的在這個水箱裡面,去解決很多伺服器熱的問題。」
輝達解決方案架構師Frank:「我們在做的講的就是生成式AI,那我們現在,我們需要很大量的一個GPU模型,你可能單個主機,沒辦法去完成一個模型的訓練,你可能要堆疊到幾千張幾萬張,我們可以有一個,一個任務就把所有GPT的模型,去做一個串聯然後算完。」
GB200超級晶片的終端運用,可用在翻譯、視覺語音、創意應用、科學應用如藥物研發等,AI王者生態圈確立,宣告運算新時代來臨。
◤日本旅遊必買清單◢