消息称理想汽车探索自研云端推理芯片,沿用智驾芯片数据流架构
IT之家 8 月 14 日消息,晚点 Auto 今天(14 日)晚间援引多个信源消息称,理想汽车正在探索自研云端推理芯片,将采用与智驾芯片相同的数据流架构,项目仍处早期阶段。
AI 数据中心普遍使用 GPU 完成模型训练和推理,也有数据中心部署云端推理芯片。一位芯片行业人士说,云端推理芯片可以**承接部分原本在 GPU 上运行的推理任务**,这其中包括**智驾模型的数据处理、测试、仿真,以及大语言模型的请求处理**。模型训练中涉及参数更新的部分,仍需训练芯片。

根据业内人士,在云端使用数据流架构**技术上可行**。一种路径是复用车端 NPU(AI 处理器)的计算设计,将多个 AI 计算晶粒封装在一起,配套高带宽内存和高速互联,组成规模更大的推理芯片。由此,车端和云端**可复用部分设计和软件工具**,分摊研发成本。
车端模型、传感器输入和运行节奏相对固定,主要追求低功耗、低延迟和稳定执行。而与车端芯片相比,云端芯片需要同时处理更多模型,模型更新更快,输入长度和并发请求波动更大,还涉及高带宽内存、多芯片互联、动态批处理和集群调度。
据IT之家此前报道,今年早些时候,理想汽车亮相 ISCA 2026,发表题为《马赫 M100:面向通用 AI 计算的编排式数据流架构》的主题演讲,并与谷歌、Meta 等科技公司研究者同台交流、共同探讨 AI 计算架构的未来方向。自 2020 年工业分区设立以来,理想汽车是首家入选的中国汽车企业。
**马赫 M100 是全球首款基于数据流架构的大算力端侧推理芯片**,其采用 5nm 车规级工艺,单芯片算力 1280TOPS,最终算力利用率达 82%,并搭载 8 通道 LPDDR5X 内存,峰值带宽 273GB/s;CPU 侧配备 24 核 ARM Cortex-A78AE 处理器集群。
**相关阅读:**
- [中国车企首次:理想汽车登台 ISCA 2026,发表马赫 M100 芯片论文入选报告](https://www.ithome.com/0/971/357.htm)
---
原文链接:[点击查看](https://www.ithome.com/0/989/947.htm)
AI 数据中心普遍使用 GPU 完成模型训练和推理,也有数据中心部署云端推理芯片。一位芯片行业人士说,云端推理芯片可以**承接部分原本在 GPU 上运行的推理任务**,这其中包括**智驾模型的数据处理、测试、仿真,以及大语言模型的请求处理**。模型训练中涉及参数更新的部分,仍需训练芯片。

根据业内人士,在云端使用数据流架构**技术上可行**。一种路径是复用车端 NPU(AI 处理器)的计算设计,将多个 AI 计算晶粒封装在一起,配套高带宽内存和高速互联,组成规模更大的推理芯片。由此,车端和云端**可复用部分设计和软件工具**,分摊研发成本。
车端模型、传感器输入和运行节奏相对固定,主要追求低功耗、低延迟和稳定执行。而与车端芯片相比,云端芯片需要同时处理更多模型,模型更新更快,输入长度和并发请求波动更大,还涉及高带宽内存、多芯片互联、动态批处理和集群调度。
据IT之家此前报道,今年早些时候,理想汽车亮相 ISCA 2026,发表题为《马赫 M100:面向通用 AI 计算的编排式数据流架构》的主题演讲,并与谷歌、Meta 等科技公司研究者同台交流、共同探讨 AI 计算架构的未来方向。自 2020 年工业分区设立以来,理想汽车是首家入选的中国汽车企业。
**马赫 M100 是全球首款基于数据流架构的大算力端侧推理芯片**,其采用 5nm 车规级工艺,单芯片算力 1280TOPS,最终算力利用率达 82%,并搭载 8 通道 LPDDR5X 内存,峰值带宽 273GB/s;CPU 侧配备 24 核 ARM Cortex-A78AE 处理器集群。
**相关阅读:**
- [中国车企首次:理想汽车登台 ISCA 2026,发表马赫 M100 芯片论文入选报告](https://www.ithome.com/0/971/357.htm)
---
原文链接:[点击查看](https://www.ithome.com/0/989/947.htm)
评论
暂无评论。