印新創公司用AI模仿人聲助選　遭OpenAI開罰

生成式AI龍頭OpenAI上週宣布，即將推出反假訊息工具，同時也禁止將旗下AI技術用於競選活動。

OpenAI表示，他們刪除了印度一間新創公司「Delphi AI」的帳號，這個帳號替爭取美國民主黨總統提名的聯邦眾議員菲力普斯造勢，替他量身打造聊天機器人，模仿真人口吻在網站上和選民即時對話。OpenAI表示，這違反了公司政策，「Delphi AI」成為首家被OpenAI停權的開發商。今年全球各地將舉行多場重大選舉，生成式AI的崛起，令人擔心有心人士利用ChatGPT，和其他平台發布假消息來製造政治混亂。