在人工智能 （AI） 逐渐融入各类应用的今天，新的技术正在不断改变我们的 PC 体验。 Intel Ultra CPU 中的神经处理单元 （NPU） 便是其中的一个亮点。本文将详细介绍 NPU 的功能和 DirectML 在 Windows 上的应用，帮助读者更好地理解这两者的结合如何推动 AI 的发展。
什么是 NPU？
NPU，全称为神经处理单元 （Neural Processor Unit），是一种专门用于执行机器学习工作负载的处理器。与传统的 CPU 和 GPU 不同，NPU 专门设计用于处理 AI 计算任务，具有高性能和低功耗的特点。这种创新的处理器能够释放 CPU 和 GPU 的计算资源，专注于高效执行 AI 工作负载，从而为用户提供更流畅的 AI 体验。
根据 Intel 社区博客 《解锁 Intel 的神经处理单元与 DirectML 》 [1]，Intel Ultra CPU 中的 NPU 集成在 SoC 中，能够以相对较低的功耗执行高性能 AI 计算任务。这种设计不仅提升了 AI 计算的效率，还为 PC 带来了更多的可能性，例如创新的 AI 应用和更强大的生产力工具。
什么是 DirectML？
DirectML 是 Windows 上的机器学习平台 API，它提供了对硬件加速器的通用抽象层。 DirectML 最初支持 GPU，现在也扩展支持 NPU 。它是 DirectX 家族的一部分，与 DirectX 12 兼容，并且可以与其他 DirectX 组件 （如 DirectX 12） 集成。此外，DirectML 还与流行的机器学习和工具框架 （如 ONNX Runtime 和 Olive） 集成，简化了在 Windows 生态系统中开发和部署 AI 体验的过程。
在 《DirectML：加速 Windows 上的 AI，现在支持 NPU 》 [2]一文中提到，DirectML 是一种低级别、硬件抽象的 API，它能够直接访问现代设备 （如 GPU 和 NPU） 的硬件功能。这种设计使得开发者可以利用 DirectML 在 Windows 平台上创建高效的 AI 应用。
DirectML 与 Intel NPU 的结合
DirectML 已经推出了对 Intel Core Ultra 处理器上 NPU 加速的开发者预览版本。这一版本支持在新的 Windows 11 设备上使用 Intel Core Ultra 处理器的 NPU，并且可以运行一部分经过优化的机器学习模型。尽管目前的开发者预览版本仍处于初期阶段，只支持特定的模型，并且可能存在一些兼容性和性能方面的问题，但这个版本标志着 AI PC 时代的开始。
根据 DirectX 开发者博客 《Introducing Neural Processor Unit (NPU) support in DirectML (developer preview) 》 [3]，DirectML 团队正在努力改进兼容性和性能，并期待用户的反馈和经验。这一新功能的推出将为开发者提供更多的工具和资源，帮助他们在 Windows 平台上创建更强大的 AI 应用。
总结
NPU 和 DirectML 的结合为 PC 带来了全新的 AI 体验。 Intel Ultra CPU 中的 NPU 能够高效地执行 AI 计算任务，而 DirectML 提供了与这些硬件加速器交互的简便途径。这种结合不仅提升了 AI 计算的性能，还为开发者提供了更多的可能性。
未来，我们期待看到更多基于 NPU 和 DirectML 的创新 AI 应用，为用户带来更丰富的 AI 体验。
Learn more: