OpenAI与博通推出LLM优化推理芯片Jalapeño

OpenAI与博通今天共同推出了Jalapeño，这是一款专为LLM推理设计的智能处理器。这款加速器旨在提升AI的速度、可靠性和可获取性。Jalapeño的设计灵活，能与所有LLM兼容，针对当前和未来的AI模型进行了优化。

### 产品亮点
* **性能优异**：早期测试显示，Jalapeño在每瓦性能上明显优于当前最先进的产品。
* **快速开发**：从设计到量产仅用时九个月，展现了OpenAI与博通的紧密合作。
* **全面扩展**：这款芯片将与数据中心合作伙伴一起以千兆瓦规模部署，适用于多个世代。


### Jalapeño的特点
Jalapeño的设计完全针对现代LLM推理，而不是从早期的AI工作负载改造而来。其架构优化了计算、内存和网络资源，旨在新一代AI模型的推理需求。

OpenAI的联合创始人兼总裁Greg Brockman表示：“世界正在向计算驱动的经济转变。Jalapeño是我们长期基础设施战略的一部分，将使计算更丰富，从而促进AI的发展。”

### 未来展望
Jalapeño是一个长期多代计算平台的一部分，预计在2026年底之前进行初步部署，旨在与微软等合作伙伴共同推动更大规模的数据中心。Jalapeño的推出不仅是技术上的突破，更是为学生、开发者、小企业和研究人员提供更普及的智能服务的重要一步。

总之，Jalapeño的设计旨在将先进的AI带给更多人群，通过提升推理速度、稳定性和经济性，使AI的潜能得以更广泛的应用。

---

原文链接：[点击查看](https://openai.com/index/openai-broadcom-jalapeno-inference-chip)