解析NPU-定义及其在现代计算架构中的必要性

生成式人工智能（AI）每天都在流行。它就在我们周围，存在于我们的电脑和手机中，而且很快它将融入所有数字化事物。如此大规模的人工智能集成需要更多的计算能力，因此中央处理单元（CPU）和图形处理单元（GPU）可能不足以满足此目的。

为此，引入了神经处理单元(NPU)。它们已经在我们身边集成到现代智能手机中，例如三星GalaxyS22、S23和S24型号。然而，它们还需要一段时间才能在计算机中变得更加普遍。

主要片上系统(SoC)制造商已经开始推出集成NPU的芯片组，例如IntelMeteorLake、IntelCore、CoreUltra系列和AMDRyzen8040。但问题仍然存在：什么是集成NPU的芯片组？NPU真的值得升级吗？

在本指南中，我们将讨论有关NPU的所有信息。它将帮助您了解它是什么，您是否需要它，以及您的计算机是否有它。

什么是NPU？

单来说，神经处理单元是专门处理机器学习算法的处理单元。它们旨在以比CPU和GPU更快的速度处理复杂的数学计算，这对于高效的神经网络至关重要。

NPU的目标是处理涉及多个较小计算的人工智能相关任务。这些在处理大量多媒体数据（例如图片和视频）以及处理神经网络数据方面非常有效，因为它们是为数据驱动的并行计算而设计的。

尽管CPU和GPU能够处理机器学习任务，但它们的效率不如NPU。此外，在设备中加入NPU将承担CPU和GPU的大量负载，从而使它们能够有效地执行其他任务。

谷歌拥有自己专有的类似NPU的处理器，称为张量处理单元(TPU)。它们与NPU不同，因为它们遵循不同的架构，但具有处理复杂人工智能算法的相同共同功能。

NPU的外观和功能很像专用集成电路(ASIC)，但它们并不相同。NPU提供了更高的复杂性和多功能性，可以满足网络计算的多种需求，而ASIC则用于单一目的（例如挖掘加密货币）。这是通过设计具有适合神经网络计算特定需求的专门编程和驱动程序的硬件或软件来实现的。

NPU、CPU、GPU有什么区别？

AI计算涉及大量乘法累加(MAC)。大多数人工智能算法都是跨大数据集的大型MAC树，它们可以很好地处理较小的部分计算，而不是较大的计算。这正是NPU所擅长的。

虽然GPU和CPU都能够很好地执行人工智能计算，但NPU能够将它们分解成更小的部分并执行更快的计算。

GPU设计用于并行处理大型数据集，例如处理图像和视频，而CPU是系统的通用大脑，用于执行各种任务。然而，NPU旨在快速处理较小的计算。它们专为加速深度学习算法而设计，使其在处理AI工作负载时的性能明显优于CPU和GPU。

NPU与TPU

前面提到，张量处理单元是谷歌开发的，专门用于神经网络的处理，就像NPU一样。然而，NPU和TPU之间的主要区别在于它们的架构。

传统的冯·诺依曼架构划分了内存和处理单元，并不是TPU的基础。相反，TPU采用一种称为脉动阵列的独特设计，它将处理和存储单元组合到单个芯片上。正因为如此，TPU可以比NPU更快、更有效地进行并行计算。

也就是说，虽然NPU在峰值性能下优于TPU，但它们也消耗更多电量并具有更高的延迟。尽管TPU比NPU功耗更低、延迟更短，但其峰值性能较低。

目前，TPU仅适用于GooglePixel手机和GoogleCloudPlatform。此外，还有不同的版本可供选择，每一个版本都优于其前身。

什么是GPNPU？

GPNPU可能会被混淆为GPU和NPU的混合变体。然而，该缩写代表“通用神经处理单元”。

GPNPU利用统一处理器架构的单个执行管道，可以执行向量和矩阵运算以及标量（控制）代码。由于整个设计中只有一个软件控制的核心，因此复杂的并行工作负载可以更简单地表达。

如何检查你的设备是否有NPU？

检查您的设备（可能是计算机或移动设备）是否具有NPU的一种方法是访问处理器制造商的网站。您可以通过制造商的文档了解处理器的特性和功能。

例如，如果您的智能手机配备Snapdragon8Gen3CPU，则它具有集成的NPU。

对于计算机来说，有多种方法可以检查其是否具有NPU。

从Windows任务管理器检查计算机是否有NPU

如果您的计算机有专用的NPU，它应该在整个系统中显示为单独的硬件。您可以从任务管理器检查您的WindowsPC是否有专用的NPU。具体方法如下：

按CTRL+Shift+Esc快捷键打开任务管理器。

切换到性能选项卡。

检查您是否有专用的NPU子选项卡。

从制造商网站检查电脑是否有NPU

检查您的计算机是否具有NPU的另一个好方法是查看制造商的网站。只需获取系统信息、上网并搜索制造商的网站即可了解您的电脑规格。它会让您知道您的电脑型号是否有专用的NPU。

或者，您也可以从系统中获取CPU详细信息，然后检查其制造商的网站以确认它是否具有集成的NPU。

您可以访问英特尔的产品规格页面并选择您的CPU以获取其详细信息。或者，如果您有AMD处理器，请访问AMD的产品规格页面并查看详细信息。

NPU是未来吗？

人工智能在任何地方都占据着主导地位。即使使用Windows11，您每个月也会注意到一项新的人工智能功能。例如，微软前几天刚刚在照片应用程序中引入了人工智能驱动的生成擦除功能。在此之前，他们推出了各种人工智能功能，例如Copilot。最重要的是，许多其他应用程序和服务正在融入人工智能。因此，可以肯定地说，人工智能将很快接管我们生活的各个数字方面。

对于那些真正投资使用人工智能的人来说，NPU可以成为他们硬件的有用补充，我们已经在上面讨论了它的好处。也就是说，可以肯定地假设NPU将包含在我们使用的大多数现代设备中，甚至有一天可能成为物联网(IoT)设备的一部分。

我需要NPU吗？

与当今大多数可用的人工智能服务一样，例如OpenAI的ChatGPT语言模型，所有计算都在云端执行。所谓云，是指OpenAI提供的托管硬件。那么，当此类服务已经可用时，为什么还需要NPU呢？

拥有本地NPU可以减少将数据上传到互联网然后取回数据所造成的延迟。因此，内部NPU具有速度优势。因此，如果您的工作重点是人工智能，那么如果您拥有自己的NPU，您将会受益匪浅。

此外，NPU还可以减轻CPU和GPU的压力，让它们腾出空间来执行其他重要任务。如果您的系统有自己的NPU，那么您可以释放CPU和GPU来执行其他硬件密集型任务。

总而言之，如果您广泛执行以AI为中心的计算任务，则只需要NPU。