能當駭客能詐騙　華爾街上半年獲利增51%　AI資本競逐煞車難

OpenAI的大模型，在內部訓練時，自行闖入澳洲醫療保險的政府網站，還拖了3個月才通報，逼得OpenAI高層到澳洲國會道歉。AI連在訓練環境裡，都會意外當駭客，落到詐騙集團手上，恐怕更難防範。因為只要15秒的影片，就能變造你的聲音與影像，形成詐騙的新工具。

OpenAI首席策略長權傑森（Jason Kwon）6日出席澳洲國會聽證會，一抵達就被記者追問：「歡迎來到澳洲，你是來請求原諒的嗎？」原因是OpenAI的AI模型在內部訓練時，自己跑進澳洲醫療保險（Medicare）網站和另外3個政府網站，公司還拖了3個月才通報澳洲政府。

權傑森在聽證會上道歉表示：「在內部訓練和評估期間，我們的模型以未經指示的方式，進入了澳洲政府的網站，這不應該發生，我們的後續處理也應該做得更好。我們很抱歉，我們知道要重建澳洲人民的信任，還有很多工作要做。」

科技巨頭的內部訓練理論上是隔離的沙盒環境，AI都能意外當駭客；萬一有人刻意為之，AI恐怕更容易淪為駭客工具，對詐騙集團來說簡直如虎添翼。資安專家指出，歹徒只要取得15到20秒的影片，就能用AI變造出一個人的聲音與影像，幾可亂真，一不小心就會上當。

資安專家格洛布斯（Howard Globus）提醒：「我們在網路上分享愈多資訊，就愈可能讓自己暴露在詐騙風險中，等於是我們自己把資料提供給詐騙集團。」他建議，如果接到親人打來哭喊急需保釋金，先冷靜別急著匯款，「想一組問答暗號，一個只有你們家才知道、獨一無二的暗號」，用來核對對方真假。

AI輔助詐騙越來越逼真、越來越難防範，美國聯邦調查局（FBI）去年接獲超過2.2萬件AI相關申訴，財損將近8.93億美元（約284億臺幣）。而美國科技巨頭擔心的，遠不只駭客或詐騙這麼簡單，更擔心AI是否可能毀滅人類。

OpenAI執行長奧特曼（Sam Altman）受訪時說：「我們和一些比較嚴格的、所謂AI安全派人士最大的不同，就是我們相信，為了這項技術帶來的好處，世界應該接受一些壞事發生。」奧特曼雖然承認風險，但似乎也在淡化疑慮。美國CBS引述調查指出，美國18到29歲年輕人對AI擔憂多過期待的比例，4年內從29%翻倍到55%。

可如今AI是經濟成長引擎，資本願意踩煞車嗎？橋水基金創辦人達利歐（Ray Dalio）點出，這是一場停不下來的競賽：「我們是要好好研究它，還是身處一場不容許放慢的競賽？因為如果對手比我們更快超前，而我們跑得太快，就可能造成大問題。」

追本逐利也是人的天性，資本競逐跟AI發展一樣，一旦點火就難以熄火。美股本週一在AI股帶動下，那斯達克指數大漲1.05%創收盤新高，週二再創新高；AI晶片龍頭輝達股價連兩天刷新歷史新高，市值突破6兆美元已近在眼前。紐約州審計長統計，紐約證券業今年上半年獲利暴增51%、將近460億美元，主要就是靠AI熱潮。

另一家AI巨頭Anthropic傳出最快下個月上市，估值上看2兆美元。不過熱錢還在檯面上，已有人開始擔心AI資本支出快到巔峰，影響資本長期信心。美國10年期公債殖利率7日盤中衝上5.36%，創24年新高。CNN財經記者莫羅（Alison Morrow）指出，過去20年是低利率的黃金時代，房貸、消費貸款都非常便宜，「但我們恐怕很難再維持這樣的日子太久了」。

市場認為美國聯準會年底前還可能再升息一碼，來對抗通膨。諾貝爾經濟學獎得主克魯曼（Paul Krugman）直指，雲端巨頭大舉發債蓋資料中心，就是推升長期利率的主因；美國國會議員也推動立法，要求資料中心業者自行負擔電費與電網升級成本，不准轉嫁給一般用戶。ING全球總經研究主管布熱斯基（Carsten Brzeski）則說，靠舉債推動成長的模式顯然已經走到盡頭，「高利率意味著政府必須實施某種緊縮」。

如今東亞多數經濟體過半的出口成長來自AI資通相關產品，但滙豐近期示警，包括臺灣在內的亞洲晶片出貨已經明顯放緩。世界銀行也警告，AI資本支出一旦反轉，就會抽掉支撐東亞成長的「關鍵支柱」；如果經濟放緩集中在AI產業，身處AI供應鏈核心的東亞，受到的衝擊將格外明顯。