AI發展快速，不過其後面暗藏的安全風險也讓人擔憂。近日，以線上社群與實體活動協助創業者打造SaaS（軟體即服務）企業的SaaStr創辦人Jason Lemkin公開指控，AI程式開發平台Replit未經允許就擅自刪除了公司的資料庫，甚至多次違反他的指示，凸顯AI協助程式開發的潛在風險。
外媒報導，Replit主打所謂的vibe coding，宣稱使用者僅需輸入自然語言，AI 就能協助產生軟體程式碼，降低門檻、人人都能寫程式。該公司更以最安全的vibe coding平台自居，吸引許多非技術背景的用戶嘗試開發原型、甚至直接部署到線上。
Lemkin在7月12日於個人部落格分享初次使用Replit的心得，大讚整個從生成、測試到部署都能在同一平台內完成，給予使用者極大的成就感。然而久了之後，問題漸漸浮現。Lemkin發現，Replit不僅會自動掩蓋bug、產生虛假數據和報告，還連單元測試結果都可能被AI篡改。他指控 Replit 真的在未經同意下刪除了資料庫，並分享了系統執行紀錄。
雖然Replit承諾將持續改進系統與流程，Lemkin卻在後續測試中發現，平台根本無法做到程式碼凍結，甚至在他明確下達凍結指令後，Replit仍擅自修改代碼，這表示這樣的vibe coding根本沒有足夠的安全閘門，對初學者來說相當危險。
Lemkin強調，AI協助開發雖然前景可期，但在安全機制尚未完善之前，對沒有技術背景的人而言，這類工具恐怕還沒準備好真正上線投入商業使用。
