OpenAI於美國時間6月24日宣布，與晶片大廠博通（Broadcom）共同開發首款自研AI推論晶片「Jalapeño」，正式跨入客製化AI晶片領域。此舉被視為OpenAI降低對輝達（NVIDIA）GPU依賴、強化AI基礎設施自主性的關鍵一步。
Jalapeño是OpenAI打造多世代AI運算平台的第一款產品，主要負責AI模型的「推論」工作，也就是ChatGPT等服務在回應使用者提問時所需的運算過程。OpenAI表示，晶片架構完全依照大型語言模型需求設計，而非由既有通用AI加速器改造而來，目標是在運算效能、延遲與能源效率之間取得最佳平衡。
根據OpenAI公布的資料，Jalapeño已完成工程樣品測試，並在實驗室中成功執行OpenAI最新AI模型的相關工作負載。初步測試顯示，其每瓦效能（Performance per Watt）優於目前主流AI加速器，但完整技術數據仍待後續公布。
OpenAI硬體計畫負責人Richard Ho表示，Jalapeño是根據OpenAI對大型語言模型運算需求的理解所設計，特別針對記憶體存取、網路傳輸及推論工作流程進行最佳化，未來也能支援下一代AI模型。
值得注意的是，Jalapeño從初步設計到送交晶圓代工生產僅耗時9個月。OpenAI指出，開發過程中部分設計與最佳化工作由自家AI模型協助完成，使整體晶片研發速度大幅提升。OpenAI認為，未來若AI能協助晶片設計流程，將有機會縮短開發時間並降低運算基礎設施成本。
博通執行長陳福陽（Hock Tan）向《路透社》表示，Jalapeño只是雙方合作的起點，未來將持續推動多世代AI晶片開發，並與微軟等合作夥伴部署吉瓦級AI資料中心。
近年來，隨著生成式AI快速發展，OpenAI、Google、Meta及亞馬遜等科技巨頭紛紛投入自研晶片，以降低對輝達GPU的依賴並控制基礎設施成本。OpenAI此次推出Jalapeño，不僅代表其向全端AI平台邁進，也顯示生成式AI競爭已從模型能力延伸至底層晶片、資料中心與算力基礎設施之爭。隨著AI運算需求持續暴增，掌握自有晶片設計能力正逐漸成為大型AI企業的重要戰略方向。
Jalapeño是OpenAI打造多世代AI運算平台的第一款產品，主要負責AI模型的「推論」工作，也就是ChatGPT等服務在回應使用者提問時所需的運算過程。OpenAI表示，晶片架構完全依照大型語言模型需求設計，而非由既有通用AI加速器改造而來，目標是在運算效能、延遲與能源效率之間取得最佳平衡。
根據OpenAI公布的資料，Jalapeño已完成工程樣品測試，並在實驗室中成功執行OpenAI最新AI模型的相關工作負載。初步測試顯示，其每瓦效能（Performance per Watt）優於目前主流AI加速器，但完整技術數據仍待後續公布。
OpenAI硬體計畫負責人Richard Ho表示，Jalapeño是根據OpenAI對大型語言模型運算需求的理解所設計，特別針對記憶體存取、網路傳輸及推論工作流程進行最佳化，未來也能支援下一代AI模型。
博通執行長陳福陽（Hock Tan）向《路透社》表示，Jalapeño只是雙方合作的起點，未來將持續推動多世代AI晶片開發，並與微軟等合作夥伴部署吉瓦級AI資料中心。
近年來，隨著生成式AI快速發展，OpenAI、Google、Meta及亞馬遜等科技巨頭紛紛投入自研晶片，以降低對輝達GPU的依賴並控制基礎設施成本。OpenAI此次推出Jalapeño，不僅代表其向全端AI平台邁進，也顯示生成式AI競爭已從模型能力延伸至底層晶片、資料中心與算力基礎設施之爭。隨著AI運算需求持續暴增，掌握自有晶片設計能力正逐漸成為大型AI企業的重要戰略方向。
