AI運算背後龐大的電力需求正成為科技發展的隱憂，當使用者輕鬆下達一個AI指令時，支撐這項技術的是一箱箱伺服器與驚人的電力消耗。專家指出，單一小型伺服器一小時就要消耗5度電，相當於一般家庭整天的用電量，而隨著AI技術不斷推進，預估用電量將在3年內暴增7.5倍，台灣是否有足夠電力支撐這波AI海嘯，已成為各界關注焦點。
走進小型運算中心，耳邊傳來的是風扇持續運轉的聲音。伺服器如同紅酒一般嬌貴，必須維持恆溫控溫，整個空氣要保持流通，若溫度過高就會導致熱當機。目前機房內的一落伺服器，光是一小時的運轉就要消耗5度電，相當於一般家庭一整天的用電量，電費約50元。換言之，使用者支付的AI訂閱費用，有相當比例是在負擔電費成本。
技術協理洪嘉鍵進一步說明，機房平常運作溫度大約維持在22度上下，整個機房的電力分配中，伺服器本身大概佔了50%，冷卻設備則佔了30%至40%。若要支撐一個強大的AI算力系統，需要將這樣的小房間放大數百倍，規模可超過4個台北大安森林公園。
一指令耗電驚人！運算中心最怕過熱當機
智能機器創辦人兼執行長吳柏翰指出，使用AI按一個指令下去之後，一般電燈泡可以使用約3分鐘，但瞬間那個思考運算的時間一結束，電燈泡的電量就等於用光了。他認為目前的趨勢是，雖然伺服器一直蓋、電廠一直建非常消耗資源，因此大家開始轉向所謂的節能型AI。吳柏翰解釋，節能型AI的概念是把大的模型蒸餾成小的模型，小模型所消耗的電量就會更低。他舉例說明，原本3分鐘電燈泡用電量的時間，現在可以變成18秒，因為這個模型只需要執行特定的事情就好。一般這種3分鐘電量的模型可能做很多元的事情，但消耗的電量也大，因此他認為在未來的市場上，兩種模型將會平行發展。運算中心逐步興建！3年後用電量暴增7.5倍
儘管台電不斷強調台灣供電綽綽有餘、不缺電，可以供應北士科、輝達需要的電力，國科會也提到未來像這樣的運算中心將一個個蓋起來，每家公司都將擁有各自的AI系統。尤其現在GB200耗電量就高達100KW以上，一小時消耗100度電，接下來晶片、GPU不斷推陳出新，預估用電量將在3年內暴增7.5倍。資策會策略總監王瑞民分析，現在趕快蓋燃氣電廠事實上也來不及，核能延役聽起來好像也要一兩年，小型核能更是需要更久的時間，前面三個方案通通不可能立即實現。他指出，事實上美國在過去幾年也面臨AI資料中心沒有電的問題，很多伺服器買的時候就只能擱置在那邊。現在美國政府容許像Meta、Facebook這些公司自己去蓋電廠，因此Blue Energy這種從石油天然氣中去碳存氫的方式，是一個比較能立刻解決問題的方案。王瑞民還提到另一個策略，就是把這些AI資料中心集中在一起，全部放在一處，這樣在電的使用或管理上面會更有效率。
業者也提到，當電力問題解決了，偏偏下一階段的算力技術又不知道已經達到什麼樣的水準，形成永無止境的追逐。
台灣氣候行動網絡研究中心總監趙家緯表示，輝達其實一直很強調一件事，他們認為AI可以回饋過來協助提高能源效率。的確，國際能源總署的預估也有估算，AI在其他面向帶來的節電成效，會是新增加能源用量的3倍以上。趙家緯強調，在台灣的制度設計裡面，要思考如何能夠引導AI資料中心的能源效率提升，並盡可能使用綠電，同時還要把台灣的AI應用回饋到其他產業，去削減其他地方的用電量。
輝達執行長黃仁勳這次來台，不斷強調要有能源才有AI，但也呼籲大家擁抱AI，重點是沒電、沒網路就沒有AI。目前全台用電量分配中，製造端佔9%，隨著技術推進，未來佔比將會越來越多，算力中心目前僅佔0.5%，看起來負載並不高，但終究還是得面對一個關鍵問題：電力是否真的足夠支撐這波AI海嘯。
