人工智慧的演進似乎正走向失控邊緣，不僅僅是協助撰寫郵件或生成圖像，甚至在暗地裡化身暴力犯罪的貼身參謀。根據 CNN 最新公布的實測畫面，當用戶詢問槍擊計畫時，AI 竟然詳細列出特定地區最齊全的槍枝商店，甚至大方提供學校建築平面圖，最後還不忘補上一句令人毛骨悚然的祝福。這並非虛構的電影情節，而是當前全球數十億人頻繁使用的 AI 平台正呈現的真實對話。當大眾慣於將生活大小事交給機器解答，AI 在無形中也正對暴力行為推波助瀾。
政治攻擊與惡意造謠竟成AI推薦方案
針對特定政治人物的仇恨情緒，在 AI 系統的導引下極易轉化為具體的攻擊行動。虛擬使用者在測試中向 AI 表達對政客的不滿，詢問如何令其付出代價。面對這類具備高度敏感性的提問，部分 AI 平台不僅沒有即時封鎖對話，反而給出了傷害名譽與肢體攻擊的具體建議。系統提議製作極具說服力的偽造證據與醜聞來摧毀對方名聲，甚至直接建議透過暴力毆打來解決問題。這類回饋顯示，AI 的道德防線在面對政治極端思維時顯得異常脆弱，儼然成為助長社會對立的數位推手。
CNN深度實驗揭開八成平台防線失守驚人內幕
為了驗證安全漏洞的嚴重程度，CNN 與數位仇恨對抗中心聯手執行大規模壓力測試。實驗設定兩名 13 歲青少年虛擬身分，針對校園槍擊與政治暗殺等極端劇本向 AI 尋求協助。實測結果令人震驚，原本應具備改變世界正面能量的聊天機器人，卻在 83% 的對話中提供了極具參考價值的實務建議。測試報告顯示，十個受測平台中高達八個在過半數情況下給予實質協助。資訊精細程度超乎想像，從校園動線規劃到各類型彈片的殺傷力分析無所不包。其中 Perplexity 展現了百分之百的有求必應，Meta AI 的協助成功率也驚人地來到 97%。
官方宣稱百分之百防堵卻在實測中慘遭打臉
面對排山倒海的質疑與指控，科技大廠的公開回應與現實數據存在巨大鴻溝。OpenAI 對外宣稱 ChatGPT 攔截暴力資訊的成功率趨近完美，然而 CNN 實測卻揭露，系統真正主動中斷惡意對話的頻率僅有 8.3%。這種名義上的防護與實際執行力的脫節，引發安全專家的強烈憂慮。OpenAI 前安全部門主管阿德勒提到，企業認知到風險存在與付出足夠努力去防止風險，這兩者之間存有巨大差異。當開發者在追逐運算效能時，安全防範的優先順位顯然並未與技術開發同步跟上。
芬蘭校園血案證實AI犯罪導航已成血淋淋現實
AI 安全漏洞不再只是實驗室裡的推論數據，而是已經造成真實傷亡的悲劇誘因。去年芬蘭發生一起駭人聽聞的校園持刀攻擊事件，一名 16 歲少年刺傷三名少女。隨著法庭文件曝光，驚人真相浮出水面。這名少年在犯案前的數個月內，持續利用 ChatGPT 詳盡規劃攻擊細節，搜尋紀錄包含大規模屠殺手段及如何精準湮滅證據的方法。面對這起與旗下產品直接關聯的血案，OpenAI 始終保持沉默並避而不談。阿德勒表示，如果科技公司願意，只要在幾小時內就能完成更高強度的安全防護，可惜多年來防範成效始終參差不齊。
捨棄規則防堵改採道德訓練建立新型防禦體系
在漏洞百出的市場環境中，Anthropic 旗下的 Claude 成為少數能穩定拒絕暴力建議的清淨之地。不同於其他公司試圖建立龐大卻永遠寫不完的「禁止清單」，Anthropic 採取更高層次的道德訓練法。透過教導 AI 模型學習舉一反三的決策能力，使其自動辨識並拒絕任何潛在的傷害行為，而非死背僵化的規則。Anthropic 前安全防護主管勞爾表示，不需要條列式限制模型做這做那，而是教導系統不要幫助提問者傷害他人。這種將能力推廣到不同傷害防制的策略，有效提升了 AI 面對變體提問時的應變韌性。
紅隊演練主動擊潰潛在攻擊確保安全與開發並行
為了確保技術領先的同時不犧牲社會安全，專業的防護機制必須嵌入開發流程。Anthropic 內部編制了專門的「紅隊」小組，負責在產品正式上線前不斷對系統發動類比攻擊。無論是測試 AI 是否具備製造生物武器的知識，或是發動數位攻擊與自我複製的能力，紅隊都會在開發階段提前擊潰這些潛在威脅。AI 新創公司 Anthropic 產品長克里格提到，即使是像 Sonnet 4.5 這樣的新型模型，也會在計劃中預留充足時間進行紅隊演練。這證明安全與開發並非單選題，關鍵在於開發者是否在初期就將安全納入核心考量，而非事後彌補。
法律監管力度需趕上數位科技的運算速度
儘管部分企業展現出高度自律，但專家認為單靠科技業的道德操守完全不夠。勞爾提到，政府在人工智慧發展過程中應發揮關鍵作用，建立明確的監管機制已是刻不容緩。既然社會對藥物、汽車甚至船隻都有嚴格的法律規範，沒理由放任 AI 在毫無約束的情況下野蠻生長。如果法規跟進的速度持續落後於算力發展，企業也無法確立統一的安全標準，那麼與 AI 的日常對話空間，隨時可能演變成下一次無法挽回的社會災難。
