我们普通人和大模型的距离有多远？AI发展到2024年，已经附着在各种智能硬件上了，什么AI PC，AI手机，AI蓝牙音箱，AI学习机，AI鼠标等等，但其实虽然很多产品加上了个AI的名头，但用起来总让人想骂一句“人工智障”。手机、音箱里的“小艺小爱”们，只能做些约定俗成框架里的事，目前用起来是没感觉他能学习的。但AI PC貌似可以走完我与大模型的“最后一公里”，让每一个普通人都能够拥有昂贵的大模型。
主流AI PC芯片盘点及应用情况
2023年9月，AI PC的概念被首次提出，到2024年2月，英特尔在 MWC 2024 上表示，将会和宏碁、华硕、戴尔、Dynabook、富士通、惠普、联想、LG、微软 Surface、NEC、松下、三星和 VAIO 等公司合作，推出超过 100 款搭载英特尔最新AI PC芯片的商用笔记本电脑、台式机、一体机和入门工作站。
在AI PC概念逐渐被市场认可后，各大老牌芯片巨头都紧跟推出新品。10 月，AMD Ryzen 7040系列笔记本电脑配备了基于Xilinx IP的专用AI引擎，名为“Ryzen AI”，可以加速 PyTorch和TensorFlow等机器学习框架的运行；同为10月，高通针对AI PC发布X Elite芯片；2024年1月，NVIDIA推出三款装载额外装置的全新显卡，称用户可以在“AI PC”上使用AI功能。
目前，英特尔、高通、AMD、苹果等芯片处理器厂商已推出针对AI PC的处理器，联想、华硕、戴尔、荣耀等品牌厂商也在积极推动AI PC的发展。
虽然有各种各样的AI PC的处理器，但基本上各厂商通用计算架构都采用了“CPU+GPU+NPU”的异构方案。
图注：高通、英特尔、AMD的AI PC处理器
大模型的本地运行需要强大的AI算力，因此，在传统的CPU+GPU方案里加多了一个嵌入式神经网络处理器—NPU。NPU是一种专门用于处理人工神经网络计算的计算机微处理器，用于深度学习，对神经网络工作负责进行忧化。CPU做主控、GPU 做渲染、NPU 做 AI 加速，三种芯片结合，能实现更快速、更高效率的边缘AI模型推理。
高通用骁龙X Elite杀进PC领域，英特尔占领AI PC市场气势很足
微软宣布其AI PC的最低算力为40 TOPS，目前市场上的英特尔酷睿Ultra (34 TOS) 和AMD 锐龙 8040 (39 TOPS)都不能满足这一标准。除了装有AI专用显卡的笔记本之外，目前只有高通的骁龙X Elite(45 TOPS)能达到这性能要求。据预期，2024年下半年推出的AMD 锐龙8050和英特尔Ultra 200这两款处理器也将符合微软规定的40 TOPS。
从算力来看，高通确实是领先于目前其他AI PC处理器一步，但英特尔在PC芯片上的生态地位难以撼动，而在骁龙X Elite之前，高通在PC领域一直没有太大声响。然而在骁龙X Elite的发布会上，高通很狂，拉出苹果和AMD出来比较，喊话“我们单线程性能超越了苹果 M2 Max！并且同性能功耗比苹果还低 30%！” “英特尔也是一样”“比 AMD 的核显还强 80%！”
图注：高通发布会上拿英特尔i9-13980HX进行对比功耗
图注：高通发布会上拿AMD Ryzen 9-7940HS进行对比GPU性能
PPT数据很强大，也有很多PC OEM厂商会搭载，微软、联想、惠普、宏碁、华硕、三星等笔记本传统玩家，还有小米和荣耀。
同样有许多PC OEM站台的还有英特尔，英特尔在 MWC 2024 上推出全新的 vPro 平台，涵盖新款酷睿 Ultra 和第 14 代处理器，介绍 是一个商业计算平台，主要面向企业用户，将会和宏碁、华硕、戴尔、Dynabook、富士通、惠普、联想、LG、微软 Surface、NEC、松下、三星和 VAIO 等公司合作，推出超过 100 款搭载英特尔最新芯片的商用笔记本电脑、台式机、一体机和入门工作站。这罗列的商家和数据，颇有一种占领PC市场的野心和气势。
AMD Ryzen AI产品已经开始出货
AMD的AI产品组合涵盖云端、高性能计算、企业级、PC、嵌入式等应用，其AI 战略基于三个关键要素：产品、架构和开放生态系统。
集成AI引擎的Ryzen 7040、8040、8045等移动系列CPU是产品组合中的一部分，其中，Ryzen 8040系列已经开始出货，相关终端会在Q1上市。此外，AMD还有Ryzen 8000G系列桌面APU产品，同样基于台积电4nm制程，均提供最多8个Zen4架构的CPU核心，集成有最高768SP配置的RDNA3架构核显，可支持硬件光追和AFMF技术。
目前，基于Ryzen AI技术的产品已经被用于联想、华硕、宏碁等品牌电脑中，这些AI PC通过Ryzen系列产品内置的神经处理单元（NPU）提供低功耗、高效率的AI计算能力，加快图片和视频处理、语音识别、文字转录等AI相关的本地应用处理速度，从而提升用户的生产力和娱乐体验。
Arm架构或受益于AI PC浪潮
相比x86架构，Arm的优势在于低成本、低功耗、日益加强的性能和系统通用性以及海量终端设备生态，这些优势有望在移动终端AI PC上得到发挥。Counterpoint Research预测，随着Arm芯片迭代及性能持续提升，苹果、三星、联发科等国际大厂纷纷试水基于Arm架构的PC芯片，未来Arm有望于2027年占据全球Notebook CPU/SoC出货量25%的市场份额。
前文提到的高通骁龙X Elite处理器，其内部的Oryon CPU是由高通公司开发的基于Arm指令集的完全定制化设计的处理器核心。不同于传统的Arm Cortex公版架构，Oryon是高通在收购NUVIA后推出的全新CPU内核，专为提升移动计算和笔记本电脑等设备的性能及能效而打造。
另外有消息称，NVIDIA和AMD已经开始设计基于Arm的PC芯片，并将运行Windows操作系统，并最早在2025年推出。而在此之前，微软首款Surface平板电脑Surface RT采用了NVIDIA基于Arm的Tegra处理器，但Windows RT未能产生太大市场反响。
根据外媒Windows Central的一份报告显示，Microsoft正准备使用新的AI功能升级其Surface产品线，或于2024年发布的 Surface Pro 10 和 Surface Laptop 6 将配备下一代神经处理单元 （NPU），并具有英特尔和Arm处理器两种选项。在更远的2025年还可能会有更新的 Surface Laptop Studio。
微软很早就在其产品中支持Arm架构处理器，Windows RT是微软最早尝试在Arm架构上运行Windows的一个版本，最新的Windows 11继续支持Arm架构，并且在兼容性、性能和用户体验上进行了改进，支持更多应用程序原生运行在Arm设备上，同时通过模拟技术让更多x64应用可以在Arm设备上运行。
微软还与高通、三星等硬件制造商合作，推出了多款搭载Arm处理器并运行Windows 10 on ARM系统的设备，如搭载高通骁龙系列处理器的始终连接PC（Always Connected PCs），这些设备结合了智能手机的长久续航和始终在线的特点与PC生产力工具属性。
微软在AI PC生态中除了广泛硬件兼容，还具有一个比较重要的产品，也就是AI助手Copilot，其赋予了用户全新的交互方式，让AI更加紧密地融入个人电脑的操作和使用过程中，使得AI不再是抽象的概念，而是实实在在提升生产力和便利性的工具。
小结
AI PC为处理器芯片厂商和PC厂商创造了机遇，比较显著的革新趋势之一是通过在CPU、GPU或专用NPU中集成AI加速单元，提供更高的计算效率和更低的能耗，各主要处理器厂商均有产品落地，本文对这些处理器做了介绍。AI应用场景比较丰富，因此处理器的另一个趋势是定制化，这需要处理器厂商与操作系统开发商、AI框架开发者、ODM/OEM厂商紧密合作，共同推广AI应用和服务，打造独特卖点，提高产品附加值。
