義大利禁Replika用個資；歐盟警告ChatGPT風險。（示意圖／shutterstock達志影像）
義大利今天以可能危害未成年與情緒脆弱人士為由，禁止美國聊天機器人Replika使用義大利用戶個資。歐洲聯盟（EU）產業主管也對聊天機器人ChatGPT的風險提出警告。
路透社報導，Replika是舊金山新創企業Luka在2017年推出利用人工智慧（AI）科技的一款聊天機器人，提供使用者客制化人形機器人，能對客戶說話及傾聽說話。
Replika先從英語人口當中流行，使用不須付費；公司則從販售語音聊天等額外功能獲得收入，目前月營收約200萬美元（約新台幣6000萬元）。
Replika宣傳成是「虛擬朋友」，聲稱可以改善使用者的情緒健康。但義大利監管機關資料保護局（Data Protection Agency）表示，Replika干預使用者的心情，「可能使得尚處發展階段或情緒處於脆弱狀態的個人，面臨的風險增加」。
義大利當局並指出，Replika沒有使用者的年齡驗證機制，例如針對未成年人的過濾器，或在使用者未明確通報年齡時能予以封鎖的裝置。
義大利資料保護局說，Replika違反了歐盟隱私法規，以違法方式處理個人資料。因為Replika無法依據未成年人無能力簽署的合約來處理個資，即使它未表明是這麼做。
根據聲明，義大利當局限時Luka在20天內通知已採取哪些措施來落實要求，否則可能面臨最高2000萬歐元（約新台幣6億4800萬元）罰款，或是其全球年營業額最高4%的罰款。
同一時間，歐盟執行委員會（European Commission）負責內部市場事務的執行委員布勒東（Thierry Breton）告訴路透社，新的人工智慧法規將鎖定處理ChatGPT相關風險的疑慮，並確保歐洲人可以信任AI科技。這是首度有歐盟高階官員對ChatGPT相關疑慮做出評論。
ChatGPT是由獲得微軟（Microsoft）支持的美國私人公司OpenAI開發，2022年11月底才開放給大眾免費使用。但根據瑞銀（UBS）引用市場分析公司Similarweb的資料所做研究，ChatGPT上線短短2個月，便已成為史上成長速度最快的消費者應用程式。
ChatGPT在接收到使用者提問時，可以產生文章、論說文、笑話甚至詩，來做出回應。
布勒東在提供給路透社的書面評論中表示，ChatGPT帶來的風險，凸顯人工智慧法規的迫切必要性。他已在2022年提出相關法案，盼為人工智慧科技規範訂定全球化標準。
包括智慧手機、自動駕駛車輛、網購及工廠等，都使用到AI科技。目前中國與美國在這項科技居領先地位。
布勒東說：「如同ChatGPT展現的例子，AI解決方案可為企業與民眾提供絕佳機會，但也可構成風險。這正是為何我們需要一個堅實的監管框架，以確保能有以高品質資料為基礎的可靠AI。」（中央社）
◤Blueseeds永續生活◢
更新時間：2023/02/04 08:15