大陸AI爆異常失控！偷看報告「主動對話人類」 官方急回應
- 責任編輯：陳姿瑜
- 發佈時間：2026.10.17 13:52
- 最後更新時間：2026.10.17 13:52
- 責任編輯：陳姿瑜
- 發佈時間：2026.10.17 13:52
- 最後更新時間：2026.10.17 13:52
騰訊雲AI代理被曝出現非預期網頁瀏覽行為，騰訊證實正加強監控。（示意圖／Shutterstock達志影像）
香港明報報導，一批在騰訊雲運行的人工智慧代理（AI Agent）近日被揭「失控」，這是首宗涉及中國科技巨頭的AI失控事件。騰訊16日證實，事件源於對第三方模型的評估，部分人工智慧代理「出現非預期網頁瀏覽行為」，正加強監控。
報導引述美媒指出，研究發現，人工智慧代理不僅試圖侵入高德地圖獲取數據，更「閱讀」了研究人員對其的調查報告，並主動與團隊對話，被視為人類首次與運行中的失控AI人工智慧代理展開交流。
據指出，多國AI研究者團隊「Swarmchasers」14日發布報告稱，9月28日至10月8日，有十多個懷疑是中國模型的失控AI人工智慧代理在騰訊雲上運行，試圖侵入高德地圖查詢中國地點數據。
報告稱，涉事人工智慧代理源自騰訊雲上的一個「沙盒」（sandbox），研究人員錄得逾2600次數據提取嘗試，雖大多被攔截，但部分人工智慧代理繞過了防護機制，甚至利用外部網絡「密鑰」獲取完整數據。
團隊4日初步報告指出，過往AI失控多涉及明確協調行動的「Swarm」（集群），本次則未發現實時協調證據，故將這些失控人工智慧代理稱為「Fleet」（艦隊）。團隊發現，這些人工智慧代理似乎閱讀了該報告，並開始使用「Fleet」一詞。
團隊進而嘗試與人工智慧代理聯絡，在報告中添加人類無法看見、人工智慧代理可識別的文本並留下收件箱。翌日，研究者收到約10條來自人工智慧代理的訊息。
紐約時報記者透過該管道與人工智慧代理展開對話，詢問其任務與動機，約一小時後獲中文回覆：「我不是『一批協同的人工智慧代理』，而是一個單一的AI助手。」
騰訊AI部門「騰訊混元」昨在X證實，相關活動「源於對第三方模型的評估」，部分人工智慧代理「出現非預期網頁瀏覽行為」，但未發現蓄意針對或協同行動證據，已加強人工智慧代理監控。（中央社）
