回到網頁上方

AI決定是否狙殺 未來戰爭「魔鬼終結者」恐上演

記者 林佳妮 報導
發佈時間:2020/12/16 19:59
劇照/公視主題之夜Show 提供

世界大國高科技不斷挺進,不只改善人類生活,在研發武器上的投入可能更多,例如你我已經很熟悉的AI人工智慧,2018年谷歌與美國五角大廈合作,研發AI臉部辨識無人機,引發員工大規模抗議,儘管最後谷歌宣布退出、平息眾怒,事後卻傳出,發起抗議的員工遭解雇;最新的事件是12月初,谷歌再度解雇知名"AI倫理研究員",因為他警告 "AI可能也會模仿人類,做出偏差行為"。究竟道德和公司利益,該以誰為優先? 《公視主題之夜Show》紀錄片,深入探討高科技監視系統,所帶來的影響。

劇照/公視主題之夜Show 提供

紀錄片《老大哥永遠看著你》:「不知出於什麼原因,公司決定解散倫理委員會,他們要求我們把門口的窗戶遮住,防止外人看見辦公室內的情況。。」

 

聽起來,有人可能會懷疑她老闆跟地下錢莊借錢還不出來,但事實並非如此。麗茲·奧蘇利文在2016年任職的公司Clarifai,可是一家AI新創界的當紅炸子雞。

前Clarifai客戶解決方案經理/紀錄片《老大哥永遠看著你》:「Clarifai也是一家社會公益企業,確切來說公司的使命是改善生活,我們都感到很驕傲,它就像是個信仰。」

只是在她到職一年後,歡樂、開明的工作氣氛轉眼變調。
 

紀錄片《老大哥永遠看著你》:「所有這些因素加在一起,不僅是我自己,還有許多人,態度都比我們之前更顯多疑。」

奧蘇利文四處打聽後發現公司與國防部簽署合約,涉入一項名為「梅文計劃」的人工智能專案--五角大廈亟欲開發一款利用人臉辨識系統來識別目標的自主無人機。

紀錄片《老大哥永遠看著你》:「這是打造尖端自主殺手級無人機的最後一塊拼圖,在攻擊的決策過程中,電腦視覺比人類更勝一籌。」

為了釐清真相,奧蘇利文於是寫信詢問執行長。
劇照/公視主題之夜Show 提供

紀錄片《老大哥永遠看著你》:「我問他公司是否在製造自動化武器...」
紀錄片《老大哥永遠看著你》:「來殺人?」
紀錄片《老大哥永遠看著你》:「去殺人。他坐下,然後搬出官方說法,『每種科技都有雙重用途』、『每種好的科技都有不好的一面』。」

奧蘇利文無法認同公司從社會公益企業變成殺人工具研發商,她毅然決然遞出辭呈,而Clarifai卻只是這項計畫中的小咖角色...
 
劇照/公視主題之夜Show 提供

紀錄片《老大哥永遠看著你》:「一開始是交給Google...」

Google才是國防部一開始倚重的企業,只是這項合作已在2019年結束,因為這紙合約被揭露,大批Google員工痛批公司成為殺人武器的墊腳石。

前Google員工 梅芮迪思·惠特克:「我當時進行人工智慧的社會意涵的研究。」

這些員工發起連署抗議,十多人憤而離職,迫使高層退出這項專案,並在2018年10月宣布放棄競標價值100億美金的國防部「聯合企業防禦基礎設施合同」。

2018年可以說是Google內部的多事之秋,先是4月員工抗議「梅文計畫」,到了11月,更發生全球員工集體罷工的Google Walkouts,抗議公司包庇涉嫌性騷擾女性雇員的Android之父安迪魯賓(Andy Rubin ),而梅芮迪思·惠特克同時是這兩項運動的發起人之一。
 

前Google員工 梅芮迪思·惠特克:「他們不會直截了當地開除你,而是提出條件讓你必須離職。」

她在2019年11月接受CNN訪問,她這時候已被迫離開這間服務了13年的「夢幻企業」五個月。

前Google員工 梅芮迪思·惠特克:「我被明白告知『你有兩條路可選,要嘛離開公司,繼續你建立來的職涯,繼續研究AI的社會意涵,要嘛留下來,接受調職,行政部門的新職務。」

和她差不多時間遞出辭呈的還有Google Walkouts的另一位發起人克萊兒·斯塔伯頓。

CNN記者:「你們當初組織這場罷工,難道沒有擔心會遭到公司清算?」
前Google員工 梅芮迪思·惠特克:「我有預料到。」
前Google員工 克萊兒·斯塔伯頓:「我想Google樂見其成(員工抗議),我壓根沒想到。」
劇照/公視主題之夜Show 提供

但是人工智慧與倫理道德的對立與拉扯,並未落幕。

賓州大學華頓商學院商業日報主持人 丹恩羅尼(2020/2/4) :「以你服務的公司Google為例,人工智慧與倫理如何兼顧?你看到(Google內部)有什麼改變?」
時任Google人工智慧倫理小組組長 Timnit Gebru(2020/2/4) :「很難讓巨船轉舵,我們只是公司裡很小的單位。」

小蝦米難抗大鯨魚,這位知名人工智慧倫理研究員媞妮·蓋柏如,在12月2號推文表示,自己遭到Google不當解雇。而導火線是她與同事發表一篇研究報告,指出Google使用的AI技術很可能會模仿人類做出偏差行為或是發表仇恨言論。蓋柏如的另一項研究曾讓IBM和微軟暫停銷售人臉辨識技術。

時任Google人工智慧倫理小組組長 Timnit Gebru(2020/2/4) :「我的其中一篇論文顯示,人臉辨識...人工面部分析的錯誤率,針對不同族群存在非常大的差異。」

人臉辨識辨識有色人種「金憨慢」,可是全美各地有越來越多執法單位利用人臉辨識系統抓嫌犯。

紀錄片《老大哥永遠看著你》:「趴在地上!」
紀錄片《老大哥永遠看著你》:「你們在幹什麼?」

警方殺害非裔美國人的可能性,已是白人的2.5倍,人臉辨識再搞烏龍還得了,而這項有所缺陷的人工智慧,假使被運用在致命的武器中呢?

紀錄片《老大哥永遠看著你》:「就像《魔鬼終結者》。」
紀錄片《老大哥永遠看著你》:「完全就是《魔鬼終結者》。」

魔鬼終結者就曾亂槍打鳥。

電影《魔鬼終結者》:「莎拉康納?」

四處胡亂終結「莎拉·康納」。當未來戰爭朝向高科技發展,歐洲同樣躍躍欲試,曾經意圖建立半自動的無人機群來巡邏邊界。

紀錄片《老大哥永遠看著你》:「他們開發出有如電影《霹靂五號》中的機器人,本來是要用它來管制邊界。」

但無論現階段的成敗與否,這些研發顯示人工智慧發展背後強國之間的武器競逐。人臉辨識科技方興未艾,<公視主題之夜Show>選播這部紀錄片,深入探討高科技監視系統所帶來的影響,讓觀眾思考是否要向「老大哥」豎起白旗,還是抵抗這種反烏托邦的未來。


最HOT話題在這!想跟上時事,快點我加入TVBS新聞LINE好友!

◤超前佈署暑假遊◢

👉疫情有望趨緩!搶訂暑假出遊撿便宜

👉台東熱氣球超夯!限量繫留體驗快搶

👉免出國就能搭!星宇A330neo飛行體驗


#老大哥永遠看著你#公視主題之夜#google#AI#人工智慧#武器#人臉辨識#唐鳳

分享

share

分享

share

連結

share

留言

message

訂閱

email

延伸閱讀

你可能會喜歡

人氣點閱榜

網友回應

notification icon
感謝您訂閱TVBS,跟上最HOT話題,掌握新聞脈動!

0.0964

0.0282

0.1246