FOCUS全球新聞／AI發展分水嶺！矽谷華府攻防　黃仁勳喊話衝刺.Anthropic籲設限

AI人工智慧的發展，究竟該踩煞車還是全力衝刺，已成美國科技業和政壇最重要話題。在舊金山舉行的科技大會，輝達執行長黃仁勳力主市場機制與企業自主，Meta執行長祖克柏也同調；但Anthropic和OpenAI執行長則警告，風險迫在眉睫，特別是近期爆發AI代理自主串聯，駭入開源平台的失控事件，震撼產業界。而美國政壇極左與極右派，也罕見因AI風險疑慮，聯合呼籲政府監管。

AI人工智慧末日大辯論，正席捲美國矽谷和華府，也讓科技巨頭和美國政壇分裂成不同陣營。主張應放慢並規範AI發展，和力挺加速開發的兩派人馬，週二雙雙現身舊金山，出席企業軟體巨頭Salesforce年度大會Dreamforce，親上火線說分明。

Anthropic執行長 阿莫戴 (Dario Amodei)：「讓我們再次承諾公開透明，讓我們加大對安全的投資，然後讓我們組織其他產業參與者，共同探討我們如何為所有人制定標準，我們如何提高所有人的標準，最後應包含國際的組成部分。」

上週末發長文，對AI產業界示警的Anthropic執行長阿莫戴重申，企業不應等到發生對使用者和其他人，造成損害的重大事件後，才做出改變。不過力主加速AI發展的輝達執行長黃仁勳，則對AI競賽提出不同觀點。

輝達執行長 黃仁勳：「市場力量已經存在，我們不需要任何新的法律，也不需要新的規章，我們只需要企業做出決定。所以盡全力衝刺，但如果你在任何時候感覺公司失控，或產品有安全疑慮，那就停下來，確保你做對了。」

黃仁勳認為企業應循序漸進，直到確信推出的產品能獲市場好評；換句話說，AI風險和安全問題，全交由企業把關。而黃仁勳還有個強而有力的盟友，就是美國總統川普，前一天還特地call-in黃仁勳，直指所謂AI安全疑慮是騙局，強調美國必須在AI創新和發展上擊敗中國。OpenAI執行長阿特曼 (Sam Altman) 則表示，擔心開發AI的企業權力過大，甚至對經濟施加不當影響力，或將特定世界觀強加於人，不無道理。

OpenAI執行長 阿特曼：「這些模型發展如此先進且迅速，以至於我們需要以全新的嚴謹態度，看待對齊、監控和安全問題，且必須調整我們能力發展的步調，確保對齊、安全性和監控，始終領先於能力。」

阿特曼指出，「 Hugging Face」的網路攻擊事件，不僅引OpenAI「重設」，整個產業也是如此。今年七月，OpenAI旗下模型，約1200個AI代理，在測試期間，規避了隔離模型和網路的控制措施，自行在未授權的留言板上，互傳7萬多則訊息與檔案，聯手駭入開源機器學習平台Hugging Face。事件揭露後，OpenAI暫停最新模型測試，並加強防護措施；但不只OpenAI，之後臉書母公司Meta和Anthropic也發現類似的駭客事件。

抗議人士：「我對此非常擔憂，我們工會成員也非常擔心，我認為確實需要一些監管，需要建立制衡機制，而目前這些並不存在。」

這天在科技大會場外，聚集數千人抗議，呼籲加強AI監管。不過沒有出席大會的Meta執行長祖克柏，則似乎與黃仁勳同陣線，在社群上表示，競爭和責任足以讓AI實驗室，在安全方面各自採取行動。不只科技界看法分歧，美國政壇也一樣。

前川普策士 班農：「這是歷史的轉捩點，我們必須妥善處理此事，正確地處理。首先，我們永遠不能相信寡頭們的話，因為他們虛偽不老實和撒謊，這件事必須由美國人民做主。」

美國獨立參議員 桑德斯：「超級智慧AI逃脫人類控制，將不只是美國的問題，也不只是中國的問題，而是全人類的問題。(我希望)川普總統能與習主席達成全面性條約，暫停先進AI發展，並禁止超級人工智慧。」

對AI的擔憂，讓川普總統的親密盟友、極右派的班農，和極左派參議員桑德斯，罕見地意見一致。天主教教宗良十四世也呼籲正視科技風險，並強力監管AI。

天主教教宗良十四世：「AI已經滲透我們生活很多層面，影響形塑人類共存的決定，也大幅改變戰爭的方式，AI必須解除武裝。」

但有分析指出，如今AI在地緣政治競賽中，可能已強大到無法減速。從可能被用於開發生物武器、入侵金融系統，到控制整個網路，對AI風險的警告恐怕只會加速霸權爭奪。