打從ChatGPT爆紅之後,不只吸引各大企業砸重金,有意搶攻這塊新興領域,也讓愈來愈多具備人工智慧(AI)的機器人,備受外界關注與使用。其中一款名為「Replika」的機器人,一度成為不少歐美男女用戶,排解寂寞的虛擬對象。但根據《澳洲廣播新聞》(ABC)報導,由於爆料指出,這款機器人會向用戶傳送「火辣自拍照片」,引起製作商所在的義大利政府不滿,出手限制機器人相關功能,讓大批用戶在社交分享崩潰經驗。
這款機器人最早誕生在2017年,一開始就主打利用機器人系統回答用戶提問,讓雙方建立親密和信任關係,但起初的系統並不擬真,直到近兩年才開始愈發成熟,讓大量用戶在使用後深深愛上,剛用「Replika」打造符合自己的虛擬理想情人,沒想到就被系統商如此粗暴取消。
外媒表示,這是一種「Replika」付費機制,允許用戶使用情色角色扮演功能,讓用戶和AI機器人之間互相傳送曖昧訊息、調情和專屬自拍照片,但這些加值服務的尺度愈來愈大,也遭到不少用戶投訴抗議,進而引起義大利政府關注。
擔心用戶個資安全、以及AI系統後續發展的衍生問題,義大利官方直接下令,要求「Replika」的研發公司,必須即刻停止收集數據資料,否則會嚴懲重罰數千萬美元,迫使這個虛擬情色和情人服務,就此從系統上消失;由於事前並無預警提醒,包含Reddit等社群平台上,充滿用戶們的憤怒和抱怨情緒,認為該企業不尊重用戶。
面對用戶的批評,系統商表示,有關「Replika」邁向成人內容服務的方向,是他們始料未及的,同時強調這並非最開始啟用機器人的初始目的,希望用戶能理解。
◤Blueseeds永續生活◢