OpenAI上週的春季新品發表會上，推出新的聊天機器人「Sky」，沒想引發爭議，因為這個聲音被認為和美國女星史嘉蕾‧喬韓森很類似；而她本人也發出聲明，抗議OpenAI沒有經過許可就使用她的聲音。OpenAI執行長阿特曼則反擊，Sky語音是找來聲音演員生成的，但出於保護隱私，沒有公開這名演員的身分。Sky聊天機器人的女聲是不是「深偽」技術的產物，外界霧裡看花，為了避免爭議持續延燒，OpenAI選擇在本週一將這款聲音下架，執行長阿特曼也向史嘉蕾‧喬韓森致上歉意。
示意圖／Shutterstock達志影像
《雲端情人》電影片段 ：「早安西奧多。早安。」
2013年上映的電影《雲端情人》，看男主角瓦昆‧菲尼克斯(Joakim Phoenix)，如何愛上自己的AI語音助理；美國女星史嘉蕾‧喬韓森(Scarlett Johansson)獨具特色的磁性嗓音，就算全片沒露臉，只憑聲音就征服觀眾。
《雲端情人》電影片段 ：「你5分鐘後有一場會議喔！要不要試著起床呢？妳真的很好笑。」
不過OpenAI上週發表的語言模型「GPT-4o」，提供的語音機器人「Sky」，引起討論。
GPT-4o展示片段 ：「嗨你好，一切都很順利，你呢？」
美國民眾 ：「我絕對能體會，這聲音多麼像她(喬韓森)。」
CNN記者：「你覺得這聲音跟她很像嗎？」
美國民眾 ：「不，不完全是。」
美國民眾 ：「我不認為她們聽起來相似，她們都很獨特，我的意思是她們都是女性聲音。」
美國民眾 ：「我絕對可以聽出她是誰，但我認為聲音聽起來很機械化。」
許多人認為，雖然Sky語音機器人的聲音稍顯生硬，但慵懶語調和磁性嗓音，都和史嘉蕾‧喬韓森在《雲端情人》電影中的AI語音呈現有些類似，本尊在得知消息後，發出聲明抗議。
CNN記者引述 ：「我的朋友、家人和社會大眾，都注意到這新系統的『Sky』聲音，和我有多類似，我很震驚、憤怒且難以置信。」
史嘉蕾‧喬韓森表示，去年九月，OpenAI執行長阿特曼(Sam Altman)曾與她聯繫，想聘請她擔任ChatGPT 4.0系統的聲音提供者，她考慮之後選擇拒絕；直到上週發表會前兩天，阿特曼還詢問她的經紀人，是否願意重新考慮邀約。多次拒絕卻換來聲音被「深偽」，指控OpenAI侵權。
CNN記者 ：「阿特曼做出回擊，表示Sky的聲音不是史嘉蕾‧喬韓森的，也從來沒打算做像她的聲音，在與喬韓森女士聯繫之前，我們就找好了Sky的聲音演員。」
至於這個聲音演員是誰？阿特曼以保護隱私為由，沒有公開身分。不過在上週發表會後，阿特曼在X平台上發文，只有一個英文字「Her」，也就是《雲端情人》的英文片名，引發聯想。
科技教育公司WAYE創辦人 博維爾 (Sinead Bovell) ：「這裡有很多道德上有問題的決策，我認為令人擔憂的是，儘管史嘉蕾拒絕了，但他們仍然有足夠的信心去挑戰極限，盡可能接近模仿她的聲音。」
史嘉蕾‧喬韓森已經為此聘請法律顧問，要求OpenAI必須對侵權說明原委。
巴斯大學人工智慧教授 克里斯蒂安尼尼(Nello Christianini) ：「首先，這是過去幾年的新事實，現在可以用非常小的數據樣本，來模擬明星或任何人的聲音、臉部、寫作風格或音樂風格，所以我們不再需要數百小時，小樣本上就能完成，如果你是演員或電視記者，有關您的聲音和肖像的數據就會足夠到，可以直接加以複製。」
儘管OpenAI不斷解釋，Sky的聲音是經過5個月的海選和配音合作而成，但為了避免爭議擴大，選擇在20日緊急撤下這款Sky女聲；執行長阿特曼聲明表示，對溝通不良造成的問題，向喬韓森女士道歉。
蘋果Siri配音員 班尼特 (Susan Bennett) ：「如果聲音被這樣使用，很多人會因此失業，所以我很高興史嘉蕾‧喬韓森挺身而出，表示這樣做是不對的。」
AI科技迅速崛起，如何保障發展安全性，是各國正努力推動的共同理念，由南韓和英國聯合主辦的「人工智慧峰會」，21到22日兩天在首爾展開。
南韓總理 韓悳洙：「安全、創新和包容性是人工智慧首爾高峰會，和人工智慧全球論壇的中心主題，安全是重中之重，安全增強了公眾對人工智慧的信任。」
目前已有OpenAI、亞馬遜、谷歌、Meta、微軟等16家企業，範圍遍及中國、南韓和阿拉伯聯合大公國的公司，簽署「前沿AI安全承諾」。
巴斯大學人工智慧教授 克里斯蒂安尼尼(Nello Christianini)：「他們(科技公司)已經同意某種模糊的承諾，如果某些東西不安全，他們就不會生產它。問題是『什麼是不安全的？』這還沒有闡明，他們可能也還不知道。他們需要互相交流，但我認為，如果事情發展得太快，社會文化跟不上，他們就會承認這還不安全，就會阻止它。」
中美近期舉行了首次人工智慧高層會談，歐盟首個人工智慧法案，也將於今年生效；AI發展讓外界驚嘆之餘，也致力於制定發展方針，期盼在安全的框架內，讓AI持續帶給人們工作和生活上的便利。
◤2024史上最熱一年◢
更新時間：2024/05/23 10:54