近日，高通公司发布《通过NPU和异构计算开启终端侧生成式AI》报告，深入阐述异构计算的重要性，解析什么是NPU，展示第三代骁龙8和骁龙X Elite领先的AI性能。

  高通公司提出，随着生成式AI用例需求在有着多样化要求和计算需求的垂直领域不断增加，需要专为AI定制设计的全新计算架构。这首先需要一个面向生成式AI全新设计的神经网络处理器(NPU)，同时要利用异构处理器组合，比如中央处理器(CPU)和图形处理器(GPU)。通过结合NPU使用合适的处理器，异构计算能够实现最佳应用性能、能效和电池续航，赋能全新增强的生成式AI体验。

  《通过NPU和异构计算开启终端侧生成式AI》报告深入阐述了异构计算的重要性，解析什么是NPU，以及高通领先的NPU和异构计算解决方案，并展示了第三代骁龙8和骁龙X Elite上业界领先的AI性能。

  报告认为，异构计算能够实现最佳应用性能、能效和电池续航，以最大化发挥生成式AI终端用户体验。NPU专为实现以低功耗加速AI推理而全新打造，其架构随着新AI算法、模型和用例的发展不断演进。高通Hexagon NPU面向以低功耗实现持续稳定的高性能AI推理而设计，差异化优势在于系统级解决方案、定制设计和快速创新。通过定制设计NPU并控制指令集架构(ISA)，高通能够快速进行设计演进和扩展，以解决瓶颈问题并优化性能。

  高通将通过将技术、定制芯片设计、全栈AI优化和生态系统赋能充分结合，推动终端侧生成式AI开发和应用，赋能终端侧生成式AI的规模化扩展。