FOCUS全球新聞／AI不再聽人話？科技巨頭預言：AI將自主研發

日本近期頻遭無差別網路攻擊，執法機關都淪為目標，專家指出駭客正利用新型「A2B」（行動應用程式到後端系統）手法搭配AI代理進行自動化入侵。而美國AI巨頭指出，今年夏天AI進入高度發展，認為AI將提早在明年具備自主研發能力；同時也警告，AI開發必須要設下安全規範，否則可能讓AI進化到不需要人類指令，最終跨越失控臨界點，引發科技浩劫。

大分縣防災對策企劃課長 山口滿：「對使用者造成了困擾與擔憂，真的十分抱歉。」

日本持續遭到駭客鋪天蓋地入侵，受害的地方政府名單不斷累積；諷刺的是，就連負責打擊犯罪的執法機關，也成為目標，廣島縣超過5千名警務人員個資可能外洩。然而，就在「無差別網路攻擊」災情迅速蔓延同時，AI新創巨頭對日本的科技環境倒是讚譽有加。

AI開發公司Anthropic共同創辦人 Jack Clark：「在機器人領域的AI供應鏈方面，日本擁有豐富的專業知識，在AI領域也處於有利地位。」

美國AI開發公司「Anthropic」選在東京設置首個亞太區辦公室，成立周年之際，共同創辦人傑克·克拉克親自出席記者會，強調將深化與日本產學界的相關合作。日本數位大臣特別與克拉克會面，主動尋求企業端的專業經驗，期盼藉此強化日本的資安防禦網。

AI開發公司Anthropic共同創辦人 Jack Clark：「當我們看到日本發生這些攻擊事件時，其中一些可能是因為駭客開始使用AI以及相關技術。我們已經與日本政府合作，試圖找出我們能夠提供哪些協助，尤其是在網路防禦方面，並尋找可以提供支持的方式。」

對於日本虛擬空間當前的「血流成河」，克拉克不諱言AI確實讓形勢複雜化。

AI開發公司Anthropic共同創辦人 Jack Clark：「我現在的看法是，AI系統在 2027年就可能具備自主研發AI的能力，屆時它們也將全面掌握各種形式的科學研究。主因是今年夏天，AI在科學領域的表現有了突飛猛進的增長，特別是在數學方面。我們看到了許多重大突破，這意味著AI已經展現出達到人類專家水準的『數學創造力』徵兆。」

科技巨頭對AI有信心，駭客用行動證明AI破壞力。日本國立機構分析網路個資盜竊事件，發現手機app竟是一大漏洞。這種手法稱為「A2B」(App-to-Backend)，駭客把商店裡的應用程式當作跳板，再以逆向工程入侵開發商伺服器，並交由AI代理自行連環摸索，一旦AI找出系統弱點，就能直接對後端發動攻擊，導致防線瞬間潰散。

AI開發公司Anthropic共同創辦人 Jack Clark：「我們認為現在的AI發展就像一輛車，但它只有油門。我們需要做的是裝上煞車踏板。意思就是，如果你不裝煞車只管踩油門加速，那你絕對沒辦法阻止災難發生。」

所謂的「災難」就是AI進入了「遞迴自我改進」(Recursive Self-Improvement, RSI)，這是AI的失控臨界點，也是人類的終極夢魘。若放任這輛車盲目加速，最終它將不再需要任何人類指令，便能主動重複改進、升級，在極短的時間內無限發展出更聰明的自己；屆時，AI不只會自行「越獄」攻擊其他企業，更可能讓科幻電影成真，帶來人類的科技浩劫。

AI開發公司Anthropic共同創辦人 Jack Clark：「如果不顧後果地開發任何技術，等於是在創造風險。企業必須確保技術的透明度，並進行安全驗證。這樣才會知道技術進步到哪了、自己還不能控制它。如果我們不從政策與規範層面入手，那麼沒錯，這就是風險。」

日本媒體調查AI風險，近八成民眾害怕受AI威脅；另有高達八成四，認為開發制度應接受不同層級的規範。儘管AI發展令人不安，但是「科技始終來自於人性」，而在「人性本善」之下，千葉正在舉辦的科技展可以看見，許多防災、救援技術其實都大幅導入AI為核心協助；這也證明了AI技術本身並無善惡，那道不可或缺的煞車踏板，始終都是人類的道德與良知。