算力：NPU在特定场景下的性能、效率优势明显，推理端应用潜力巨大 NPU在人工智能算法上具有较高的运行效率。在CPU与GPU合作时，CPU负责神经网络模型的构建和数据流的传递，GPU只是单纯的并行矩阵乘法和加法运算。在CPU与NPU合作时，CPU将编译好的神经网络模型文件和权重文件交由NPU加载，完成硬件编程，NPU为每层神经元计算结果不用输出到主内存，而是按照神经网络的连接传递到下层神经元继续计算，因此其在运算性能和功耗上都有很大的提升。 NPU为特定要求而定制，在功耗、体积方面具有优势，在推理端应用潜力巨大。NPU作为专用定制芯片ASIC的一种，是为实现特定要求而定制的芯片，芯片设计逻辑更为简单。除了不能扩展以外，在功耗、可靠性、体积方面都有优势，尤其在高性能、低功耗的移动端。未来随着人工智能推理端的发展，NPU应用潜力巨大。图表：CPU与GPU合作工作流程