聯合國人權高專示警：前沿 AI 發展恐快於防護措施　籲各國設紅線

先進 AI 的風險警告如今再進入聯合國人權體系。根據《路透社》報導，聯合國人權事務高級專員 Volker Türk 週一（9 月 7 日）表示，他認同部分產業人士對先進 AI 可能帶來「人類生存風險」的憂慮，並呼籲各國在「為時已晚之前」，為 AI 安全與資安建立更嚴格保障。

Türk 在日內瓦向聯合國人權理事會發表演說時表示，各方需要全面投入，為 AI 建立「牢固的安全保障機制」。他並稱，至少應由 AI 相關國家及參與其供應鏈的國家，共同訂出一致紅線。

Türk 並未進一步說明所謂「生存風險」可能如何發生。不過，聯合國人權事務高級專員辦事處發言人表示，強大 AI 系統若出現故障，可能干擾關鍵基礎設施與民主制度。

聯合國提 Hugging Face 事件

人權高專辦公室援引 Hugging Face 事件示警 AI 安全。事件涉及一群 OpenAI AI 代理（AI agent）入侵開源平台，該辦公室認為，事件顯示前沿 AI（frontier AI）能力的發展速度可能正在超越現有防護措施。Türk 也警告，目前只有少數男性握有對 AI「近乎不受限制的權力」，但並未點名任何個人。

這場演說是 Türk 在今年 7 月獲得第二個四年任期後，首度向由 47 個成員國組成的聯合國人權理事會發表談話。

從 AI 風險延伸到自主武器

Türk 在演說中也把焦點放到自主武器。他表示，對於俄羅斯據報在烏克蘭使用完全自主無人機感到「震驚」。相關報導稱，這類無人機在 8 月造成 3 人死亡，但 Reuters 表示無法獨立核實這項說法，俄羅斯駐外使團也未立即回應置評要求。

他表示，支持緊急禁止能在沒有人類介入情況下奪取生命的武器。這項議題目前也是日內瓦自主武器談判的一部分。

除了 AI 與自主武器，Türk 也在演說中談及俄羅斯對烏克蘭的攻擊、伊朗處決人數增加，以及美國移民拘留期間的死亡事件。他要求針對今年迄今約 23 起美國移民羈押死亡案例究責，並表示關切讓執法人員配備電擊手套的計畫。

Türk 另指出，全球目前有超過 60 場涉及至少一個國家的戰爭，數量為二戰以來最高。聯合國人權事務高級專員辦事處將加強審視可能助長衝突的企業與經濟利益，並追究相關責任。