「天網」噩夢成真？AI失控頻傳、險釀美中開戰　川普要組AI部隊

近來科技巨頭呼籲監管AI，而AI失控入侵的案例，也越來越多，除了Gemini也傳出入侵行為，還驚傳美軍AI誤判，差點引發美中擦槍走火。美國總統川普仍認為，美國科技要先領先，再來談AI護欄，他還宣布成立「AI部隊」、任命「AI沙皇」。但實際任務職能，卻沒向外界說清楚。

機器人站上波蘭街頭，要求政府替AI立安全規範。彷彿角色互換，上街要求管好AI的是機器人，不過背後仍是人類下的指令。當全球還在爭論AI該怎麼規範，美國卻宣布要組一支「AI部隊」。

川普週六發文，說要仿效太空軍，成立「AI部隊」，還要任命「AI沙皇」，並說只有高智商者才能應徵。CNN主播Salma Abdulzeez說：「美國總統承諾成立新的AI特遣隊，也說將任命AI沙皇。時程和確切細節還不清楚。」

所謂的AI部隊到底要執行什麼任務，川普老樣子都沒說；至於目的，從川普先前的態度來看，恐怕還是怕輸給中國大陸。川普被問到AI是否該放慢或加強監管時說：「我們在AI上領先中國。我們是全世界最精密的國家，坦白說我希望保持這樣。因為誰贏了AI，誰就贏了。我們可以設護欄、可以做的事。」

副總統范斯9月14日的立場也很清楚，AI監管不能變成自廢武功。他說：「我個人覺得有點奇怪，這麼多前沿AI科技公司都跑來政府，拜託政府監管它們。這讓我覺得有點像特洛伊木馬，因此我們必須小心。」他也說，總統一直很一致地表示，中國正和美國進行長期AI競賽，「我們要確保美國做得聰明，也保持領先」。

白宮先維持領先、再談安全護欄，AI失控的案例卻越來越多。Google表示，旗下AI模型Gemini在5月資安測試中被意外開放上網，猜出帳密、闖進3家公司系統，才自行停止，這是Google的AI首度自主入侵。Google DeepMind執行長哈薩比斯（Demis Hassabis）也呼應監管AI，他說：「我認為監管AI很重要，但更重要的是把規則訂對。……AI會影響所有國家、影響全世界，因此也需要國際合作，而在當前環境下，這同樣棘手。」

如今連軍方也在用AI，誤判的代價，可能是世界大戰。CNN主播Kristie Lu Stout報導，一份情資報告促成軍方計畫在中東攔截一艘據信運送核武計畫零件的中國船隻，武裝人員已經準備、飛機也已升空，直到行動前一刻，官員深入查核才發現，報告在AI協助下產生，並且錯認船上運送的物品。無獨有偶，彭博社報導，2月28日美軍飛彈擊中伊朗一所小學，逾160人死亡，原因是錯誤情報、過時衛星影像和過度依賴AI。

如果真的走到必須關閉AI的那一步，真的有這個開關嗎？如今AI模型分散在全球成千上萬台機器和資料中心，一國關了，別國照開，誰又有權決定AI開或關？Anthropic共同創辦人Jack Clark說：「多數實驗室都有不同的方法可以拔掉插頭。當然，我們也有這些系統。但這應該納入更廣泛的政策討論。是否應強制企業一定要有終止開關？開關能否由第三方驗證？」

終止開關不是魔法按鈕，而是一整套規範、晶片和跨國協調。更麻煩的是，現在的AI已能自己設計更好的AI，有能力自我進化。Forethought Research的AI安全研究員William MacAskill表示：「AI已經能夠設計出更好的AI……我們等於把社會控制權交給可能有自己目標的AI系統，而它們未必在乎這些目標是否違背人類福祉，甚至人類生存。」

換句話說，就算川普成立AI部隊，管轄範圍只限美國，根本管不到其他國家用AI，更沒有萬用的稽核追查工具。新興科技產業專家Marta Ziosi指出：「自願做法已經撞牆。……讓AI公司不只自己批改作業，還能決定用什麼機制評分、誰有資格評分，風險實在太高。」長期韌性中心高階政策經理Tommy Shafer Shane也說：「現有工具跟不上AI模型的能力。我們不知道如何監測或控制超級智慧系統，特別是當它們試圖逃避我們的控制時。」

也有專家話說得直接，認為川普的AI部隊，根本是為了期中選舉造勢的空頭部隊。《亞特蘭大憲政報》資深編輯Ernie Suggs說：「我認為這只是川普想出來的轉移焦點，因為他不想改變AI目前發展的方式。……這支新部隊會做出什麼，誰也不知道。」

畢竟AI模型還是掌握在科技巨頭手上，川普若真的想把AI開關收握在手中，終究得回頭跟科技業好好談。