发布信息
AXWOO科技快讯查看信息详情
OpenAI公布自研芯片Jalapeño测试结果,能效与延迟领先英伟达现行产品OpenAI公布其首款自研推理芯片Jalapeño的首批测试数据:在GPT-OSS120B、DeepSeekR1670B和KimiK2.51T三款模型上,峰值吞吐下单位功耗产出的AI工作量是对比系统的1.5至1.9倍,端到端延迟低1.7至3.6倍,高交互场景性能高2.1至4.1倍。芯片额定功耗700瓦,实测持续功耗不高于550瓦。该芯片由OpenAI与博通合作开发,对标基准测试中领先的英伟达GB300,但未与刚开始出货的英伟达新一代VeraRubin比较,也不用于模型训练。OpenAI计划今年年底前在自有算力设施中部署该芯片,第二代已在深入开发,第三代正在设计。
发布于: