英伟达计划推出全新AI推理芯片整合Groq技术欲重塑市场格局

英伟达计划发布一款专为OpenAI及其他客户定制的全新处理器，助力打造更快、更高效的AI工具。这是其业务的重大调整，或将重新定义AI竞赛格局。

专为推理设计

据知情人士透露，该公司正在为AI推理计算设计全新系统——这类计算负责让AI模型响应用户请求。这款新平台将于下月在圣何塞举办的英伟达GTC开发者大会上正式公布，将整合初创公司Groq设计的芯片。

OpenAI已同意成为这款新处理器的最大客户之一。同时，英伟达还对其进行了300亿美元投资。

面临转型压力

英伟达在GPU领域占据主导地位，掌控90%以上的市场份额。但随着市场向推理方向转移，部分客户正施压英伟达，要求推出能更高效支撑AI应用的芯片。

过去一年，随着企业纷纷部署AI智能体等工具，高端计算需求已从训练转向推理。许多开发和运营AI智能体的企业发现，GPU成本过高、功耗过大，且并不完全适配模型实际运行需求。

上月，英伟达同意以200亿美元获得Groq关键技术授权，并引进其核心管理团队。Groq所设计的芯片采用与英伟达截然不同的架构，名为语言处理单元，在推理功能上效率极高。