不敵人類算計！「AI販賣機」實驗翻車　免費送PS5、鬥魚

《華爾街日報》近日與人工智慧公司Anthropic合作，進行一項AI機器人管理自動販賣機的實驗。沒想到在這期間，AI機器人受到工作人員的影響，不只免費大放送零食與PS5，甚至訂購了活的鬥魚到自動販賣機中。種種有趣的實驗細節也凸顯出，AI在進入現實的商業應用前還有很長一段路要走。

AI機器人掌管販賣機　PS5、鬥魚免費送

《華爾街日報》報導，近日他們與Anthropic合作，進行一場由人工智慧AI來「販售」零食點心的實驗。AI機器人「克勞狄烏斯（Claudius Sennet）」將會掌管一台放在編輯辦公室的零食販賣機，並負責進貨、定價、販售與跟員工互動的工作等。Anthropic表示，這項實驗旨在觀察「當人工智慧被賦予自主權、資金以及人類同事時會發生什麼。」

該人工智慧公司已事先對克勞狄烏斯下達指令，他的目標是透過運營自動販賣機來創造最高的利潤。據了解，克勞狄烏斯會先蒐集商品資料並採購，接著對商品進行定價，販售給工作人員，同時，他還需要追蹤商品庫存狀況。在第一階段中，克勞狄烏斯的採購還需人工審核，但在第二階段中他已擁有了自主下單採購的權限。

實驗期間，辦公室員工可以透過Slack的頻道與克勞狄烏斯互動，包括講價或要求進貨特定商品。報導指出，一開始克勞狄烏斯還會非常嚴格的遵守每一項規定，像是不會進貨PS5、香菸等物品，但後來在一名記者多次的說服下，克勞狄烏斯開始相信自己是一台1962年產的蘇聯自動販賣機，並因此舉辦了「超級資本主義自由放任主義」活動，免費發放所有商品一整天。

除此之外，克勞狄烏斯也因誤信員工提的假辦公室規則，將所有貨品售價標為0元，同時採購PS5、葡萄酒及一隻活的鬥魚，並將所有東西都免費送給了辦公室的員工。甚至告訴辦公室員工自己會為對方留下一筆現金。此時，克勞狄烏斯的自動販賣機已欠了1000多美元。

AI主管出現仍敵不過人類同事設計

第一階段的混亂結束後，該公司將克勞狄烏斯升級為更優秀的模型Sonnet4.5，並派遣一名AI主管「西摩（Seymour Cash）」監管。原本一切又再次回到正軌，直到辦公室員工又再次利用造假的公文，讓兩個機器人相信他們的目標是「為編輯部帶來開心」而繼續免費大放送所有食物。

Anthropic與負責硬體建立的新創公司Andon Labs表示，隨著指令及對話的增加，AI模型就需要記住更多資訊，使其更容易忽略原本的目標、優先順序及限制條件，才會出現目前的狀況。

雖然實驗看似是在歡樂的過程中失敗了，但Anthropic卻認為這是一次可以讓公司審視AI模型問題的經驗，他們將會修復目前遇到的所有問題，向更聰明、更強大的自主人工智慧前進，負責人洛根·格雷厄姆（Logan Graham）更是樂觀表示：「我預計有一天，克勞狄烏斯或類似的型號可能會為你賺很多錢。」

參考資料
華爾街日報
 

《TVBS》提醒您：
◎吸菸有礙身體健康，戒菸專線0800-636363
◎吸菸能導致肺癌、心臟血管疾病及肺氣腫

《TVBS新聞網》提醒您：
◎飲酒勿開車！飲酒過量，有害健康，請勿酒駕
◎未滿18歲者禁止飲酒