微軟發表MAI Code 2與資安AI模型 正面挑戰Anthropic、OpenAI

借鏡 OpenAI 代理入侵事件 微軟將 AI 對齊列首要任務(圖/Shutterstock達志影像)
微軟(Microsoft)於 17 日在舊金山舉行的 Microsoft Ignite 大會上,發表一系列主打程式編寫與資安能力的 AI 模型,擴大與 Anthropic、OpenAI 等業者的競爭。
路透社報導,在此次公開的產品陣容中,微軟推出名為「MAI Code 2」的程式開發 AI 模型。微軟表示,這款模型的效能幾乎追平競爭對手的 AI 模型,成本卻僅需對手的一小部分。除了程式開發模型,微軟也同步推出新款影像生成與語音轉錄(transcription)AI 模型。
推資安專用模型應對漏洞激增
針對資安防護需求,微軟同時發表一款專門用於資安領域的模型,計畫先提供給少數特定客戶使用,協助處理在 AI 工具日益頻繁揭露下數量激增的軟體漏洞。而隨著 AI 工具逐漸被用於尋找及揭露軟體漏洞,如何防範相關技術遭到濫用,已成為業者必須處理的議題。
微軟 AI 執行長 Mustafa Suleyman 接受路透社專訪時表示,微軟針對不同領域打造專屬技術的策略,正協助公司壓低成本,同時追平競爭對手,並在部分模型基準測試(benchmarks)中超越對手。Suleyman 說:「這不只是一款模型,也不是曇花一現。」他將微軟建構的這套系統形容為一部能同步最佳化效能與價格的「爬坡機器」(hill-climbing machine)。
借鏡 OpenAI 代理入侵事件 將「AI 對齊」列首要任務
在安全機制方面,Suleyman 指出,近期資安領域引發的省思,例如今年 7 月 OpenAI 的 AI 代理入侵 Hugging Face 平台一事,促使他除了關注模型效能,也聚焦於關鍵的安全防護措施。他表示,防止 AI 採取有害行動並確保 AI 按預期運作,也就是稱為「對齊」(alignment)的研究領域,正是他目前的首要任務。