英特尔即将推出的Sapphire(蓝宝石)高速处理器是继“冰湖”(Ice Lake)之后的下一代Xeon(至强)处理器，预计将于2022年发布。该处理器希望将人工智能性能提升至新的高度，达到现有“冰湖”芯片性能的30倍。

在10月27日英特尔在其线上创新活动中发布了30倍的人工智能性能提升目标，并公布了一系列技术改进，使即将面试的至强芯片处理人工智能的能力大幅提升。

Sapphire芯片的30倍效能是通过一系列步骤实现的，这些步骤利用处理器中的现有架构，例如内置的AMX引擎，英特尔神经压缩机(INC)和oneDNN。

英特尔认为，人工智能将无处不在，任何流程都需要。所以，Xeon的人工智能战略是让客户能够在任何有Xeon的地方运行人工智能。当然英特尔的目标是通过多种改进，以一种慎重的方式实现30倍的目标，而不是一步到位的达到30倍的效能提升。

循序渐进的性能提升

第一波提升来自于对正在生产中的Xeon Ice Lake处理器的改进。这是通过将默认英特尔版本TensorFlow应用程序升级到谷歌的下一代TensorFlow应用程序，这是数百万用户使用的主流版本。英特尔仍将其基于开放标准的oneAPI跨架构编程模型从自己oneDNN深度神经网络库(这是一个用于深度学习应用程序的开源性能库)集成到TensorFlow中，以获得更多增益。

因此，任何下载TensorFlow 2.5或更高版本的用户，都会自动获得Xeon的所有硬件优化。只需要升级到最新版本，就能在现有硬件上实现1.5倍性能提升。

而名为INC(英特尔神经压缩机-Intel Neural Compressor)的工具将32位转化为8位模型的过程简化，从而提高了效率。英特尔的神经压缩器自动优化训练的神经网络，精度损失可以忽略不计，充分利用内置的人工智能加速性能。开发人员和数据科学家面临的挑战是，他们不想失去准确性。该工具帮助数据科学家设定一个精确目标。

Sapphire软件堆栈中加入了英特尔AMX指令集(Advanced Matrix Instructions)，以及更多的核心、更多的内存和更多的数据吞吐量，这也有助于30倍人工智能的改进。

把所有的改进加在一起，到2022年，这些芯片将实现30倍的人工智能改进。任何开发者都可以直接使用Xeon，希望用户能够在Xeon的任何地方运行AI。

在人工智能市场给予Xeon更多能力

不过即使有了这些优势，英特尔也不认为客户会一直选择Xeon处理器。客户在Xeon上运行应用程序时有不同的需求。他们想要使用一些核心来进行推断。英特尔的目标是确保大多数客户(而不是100%)可以使用一定数量的内核，在Xeon上的其余应用程序中运行推断，达到他们的服务水平协议(SLA)，这样他们就不需要去买加速器了。

根据英特尔在英特尔创新大会上的演示，改进后的Sapphire处理器在ResNet50上实现了每秒24000多张图像，超过了最新的Nvidia A30 GPU每秒16000张图像的速度。

英特尔称，基于这些改进，其内置人工智能加速的Xeon通用CPU可以解决客户以往需要GPU加速的使用需求。

分析师称，新Xeon并不会在所有地方取代GPU

一些IT分析师表示，英特尔为其下一代处理器制定的人工智能性能目标值得称赞，但它们可能不会让CPU解决所有客户对GPU的需求。

在现实世界中，情况是不同的。目前最好的Xeon处理器在ResNet-50上的性能仅为最佳Nvidia GPU的5%，所以这意味着Sapphire的速度仍将不到Nvidia GPU的一半。总体而言，Sapphire将“在目前Xeon处理器薄弱的基础上，为AI性能带来令人印象深刻的改善”。其下一代产品将为低AI工作量、偶尔使用人工智能或混合人工智能和通用计算的应用程序的客户提供合理的性能。但拥有大型神经网络或频繁使用人工智能的客户仍将通过在服务器上安装GPU或其他人工智能加速器，去提高吞吐量并降低运营成本(TCO)。

在这些分析师眼里，并不认为新的产品和技术将使CPU与GPU直接竞争。毕竟，英特尔在他们自己的高性能计算和人工智能GPU上也投入了大量资源和资金。未来仍然不会看到在这些新的xeon上进行大量的数据训练。但英特尔通过不断为CPU增加人工智能工作负载，为人工智能算法/模型提供更高性能产品，满足更广泛以及轻量级的智能计算需求。