美國馬里蘭州發生離譜的AI誤判事件!校園AI槍械偵測系統竟將一袋多力多滋(Doritos)玉米片誤認為槍械,還以90%的信心指數發出警報,導致4名高中生遭大批警察持槍包圍、上銬搜身。事隔約一年,4名學生及校友正式提起訴訟,控告AI系統開發商、警方及校方相關單位,指控這場誤判造成非法拘留與搜查,更讓他們留下心理創傷。
Anthropic 週四(9 月 10 日)發布最新威脅情報報告《偵測與因應 AI 濫用:2026 年 9 月》,指出過去 8 個月內已阻止多起涉嫌惡意使用 Claude 模型的行動,範圍從與俄羅斯相關的網路間諜活動,到中國 AI 業者被指試圖擷取並複製 Claude 模型能力。
「我們是警察!」當這句話在教室門外響起,蹲在地上的學生終於鬆了一口氣。然而,短短幾分鐘前,槍聲與尖叫聲仍在校園內迴盪。
自從911事件後,日本定期會在機場進行反恐演練,日本民間也發明很多高科技產品,包括全自動監視器,由電腦來過濾可疑人士,如果衣服裡面藏有槍械,電腦會主動偵測出來,將成為反恐的新利器。</p>