最近一段时间,AI PC成为一个流行词。Intel在发布Core Ultra处理器的时候,直接使用了AI PC这个词语,而各大厂商发布相应的笔记本产品时,也使用了AI Ready的宣传词。而在Intel之前,AMD在发布自己的新一代APU的时候,也宣告2024年将进入AI PC的时代。甚至于全球整个PC行业都在渲染2024年将是AI PC元年……对于这个词汇,估计不少人还是有一些懵,那么AI PC到底是什么?现阶段又有什么产品可购买?今天我们就来聊聊这个。
1、什么是AI PC?
AI PC这个词语不仅仅是Intel和AMD这两家传统PC处理器大厂在使用,包括之前高通发布自己PC用的ARM芯片时,也使用了这个词汇。但实际上,业界并没有对AI PC有一个明确的标准,当然从字面意思来看,就是可以在本地执行生成式AI功能的电脑,而不仅仅是通过网络去运行一些AI聊天或者生成式应用。
目前我们在电脑和手机上,可以通过类似ChatGPT、文心一言这样的程序来聊天或者生成文字,或是利用Midjourney来制作图片,不过这些都是通过云端让模型运算生成我们要的结果。而AI PC的目的就是不通过云计算和网络,可以直接在本地运行各种AI模型来计算并且得到结果。
所以对于硬件厂商来说,在传统的硬件中加入相应AI计算模块,比如NPU,并且可以在操作系统内执行AI模型,其实就称得上AI PC了。这个概念其实对我们并不陌生,毕竟手机端各大厂商早就在芯片中加入了NPC模块,华为、苹果、联发科、高通的芯片中都有类似硬件,所以目前的手机其实也都可以称之为AI手机,并且在拍照以及其他一些应用中,利用算法的优势来获得更好的效果。
当然就像我们所说的一样,由于AI PC其实没有明确的定义和标准,也没有说PC和笔记本可以独立执行到什么程度的模型,所以其实AI PC并没有一个规范。所以最后所谓的AI PC又只能看硬件厂商推出的产品而定,目前似乎只要有NPU模块的PC产品,都能称之为AI PC,当然我们用户还是得关注这些AI PC到底能支持什么样的AI本地模型。
2、NPU是什么?没有就不能支持AI了么?
对于手机用户而言,NPU这个词不会陌生,不过搬到PC上,这多少可能会让一些用户有点茫然。其实这就和CPU以及GPU一样,过去我们要看电脑的运行速度是不是够快,那么就要看CPU的处理能力;如果要看玩游戏性能是不是够好,那就要看GPU的水准如何。而现在加入的NPU,英文名为Neural network Processing Unit,其实就是神经网络单元,说白了就是可以支持AI模型的单元,让整个硬件系统可以拥有更好的AI运算能力。
像现在的处理器,架构虽然复杂,但按照传统的概念来看,也就是只有CPU,或者是CPU+GPU的设计,后者我们称之为核显。现在NPU的加入,只不过让处理器中在CPU和GPU之外,又多出了NPU的核心。在手机上我们非常常见,现在只不过搬到了PC的处理器上。但是要注意的是,并不是说没有NPU核心,我们的PC就无法运行AI程序。
毕竟我们知道CPU是个万能的东西,现在还有GPU的加速。就拿我们现在电脑来说,买一张还不错的显卡,去安装Stable Diffusion来跑文生图都是可以,甚至核显都能跑,只不过跑的效率、精度这些就要差一些。 同样就算我们现在的电脑没有NPU模块,其实大多数情况下CPU一样可以在本地运行AI模型,只是速度和功耗部分没有NPU这么好。
所以从这个角度而言,就算大家没有购买AI PC,或者是想用现有的电脑去本地运行AI模型,其实一般来说都是可以的。只要系统商或者软件商,在系统上内置相应的AI模型,或者推出相应的软件就没有问题。我们预计未来除了操作系统之外,一些AI公司也可能会在各种操作系统上推出自带AI模型的软件,或者在某些驱动库中内置。
3、有哪些支持NPU的AI PC?
首先就是高通的骁龙X Elite平台,这个之前我们介绍过。这个平台整合了全新定制的高通Oryon CPU、Adrendo GPU 以及独立的NPU 神经处理器单元。采用4nm工艺,CPU 部分采用12核心配置,最高频率为3.8GHz;GPU 部分,搭载的Adrendo GPU 提供4.6 FLOPS算力, 支持DirectX 12 API以及4K/60P 10bit的H.264/HEVC/AV1编码。
在AI算力部分,高通的NPU最高可提供45TOP(每秒兆次运算)算力,支持在终端侧运行超过130亿参数的生成式AI。目前已经有不少厂商表示支持,不过暂时还不知道相应的产品会在什么时候上市,大概率是2024年上半年,首发厂商包括微软、联想、戴尔和惠普等。未来高通会有更为细化的产品,并且除了PC之外,还会进军手机、汽车和XR行业。
传统PC处理器部分,首先在处理器中加入NPU的是AMD。AMD在2023年初发布的Ryzen 7040系列处理器,第一次为x86处理器加入了独立的NPU AI单元,AMD提出了AMD Ryzen AI 引擎技术,可让用户在AI PC上更易于使用个人运算的强大功能。目前AMD Ryzen 7040系列处理器以及下一代Ryzen 8040系列的处理器均支持AMD Ryzen AI引擎技术,也就是用这一系列处理器的笔记本,都能看作是AI PC。
AMD Ryzen AI引擎基于全新设计的XDNA 架构,可以脱离网路和云端,在本地执行AI工作负载,进而降低延迟、保护隐私。 当然,它也可以在本地和云端的混合场景中运行,在云端伺服器和本地笔记本之间分配任务、协同加速。AMD设计的概念为在长时间进行小体量的AI运算,在消耗少量电力的情况下,提供持续性的AI功能。
目前,基于Ryzen7040系列处理器的笔电产品已经有几十款,出货量数百万台,涵盖宏碁、华硕、戴尔、联想、惠普、雷蛇、小米等各大合作品牌。Ryzen AI的应用也不断拓展,合作伙伴包括Adobe、微软、Avid、Bori SFX、OBS Studio、Topaz Labs、Zoom、Cyberlink、XSplit VCam、Luminar、Audacity、Arkrunr、Blackmagic Design、Capcut,以及字节跳动、爱奇艺等等。此外,Ryzen AI驱动的加速功能目前也已有100多个,的确提升了用户在日常使用中的效率。
最后则是PC行业的老大Intel,Intel代号为Meteor Lake的Core Ultra移动PC处理器。不只内置CPU、GPU,还整合了一个可用于推论加速的AI引擎NPU,来提高这款处理器对于生成式AI的处理能力,这也是为Intel首款整合NPU的产品。Intel在9月底介绍这款处理器曾提到过一个概念,就是表示一款AI加持的处理器,不只是需要整合AI加速的NPU来提高生成式AI处理能力,还需要结合模组化、多晶砖设计等,提升其性能和降低功耗。
从效率而言,Intel的这款处理器搭配专用NPU模块,可整合CPU和GPU的运算效能,大幅提升PC的人工只能运算效能,使电池续航力提高2.5倍。也可搭配OpenVINO、ONNX 等工具,加速建构各类AI模型与应用服务。由于Intel的号召力,目前各大厂商已经推出相应的笔记本产品,大概已经超过230款。Intel也认为到了2028年,AI PC市场占有率将达到80%。
4、软件与系统层面的支持
很多人认为微软是支持AI最积极的软件厂商,这么说当然没错,不过微软最新升级后的Copilot其实和NPU以及AI PC都没什么关系,它背后用到的ChatGPT功能,不说国内无法使用,能使用其实也不需要什么AI PC,毕竟这是云端计算,有网络即可,用不到AI PC上的NPU模块。所以未来如果是AI聊天什么的,其实不需要考虑AI PC。
不过AMD以及Intel,其实都有跟微软进行合作,支持Windows还在发展中的AI创新功能。像是Ryzen AI在Win11升级之后就可以支持后者的AI创新,比如Windows Studio Effects,该模组可以加速这个应用中的自动取景、背景模糊等功能,当然这主要还是在笔记本上,普通电脑上其实是不存在这个问题的。
现在Windows上的AI创新功能其实还很不完善,就只是一些不同应用程式加入的一些AI工具罢了。以目前Windows需要用到NPU加速的AI功能来说, 微软这边还没有开发出一个很重要的杀手级应用程式出来。所以AI PC能不能在2024年大行其道,还得看操作系统本地的AI应用是不是足够强大以及有吸引力。这或许要等到微软的Windows 12我们才能看到了。
当然除了微软之外,其他AI应用公司现在基本上都是把运用相关的程序放在云端,通过网页或者其他APP在手机上实现,这其实也不需要AI PC。但是既然AMD、Intel都在处理器中加入了NPC,这些公司不好好适配显然也说不过去,所以现在像Adobe这些软件,都开始在自己的软件程序中加入AI相关的功能,让用户能在本地运行。
我们预计大公司或者一些很流行的软件,会逐渐加入各种AI功能,来强化用户的体验。这和仅仅是聊天或者获取咨询不同,很多应用在AI的加持下实际上相当有意义,比如Photoshop就能大大提升用户的工作效率。而且不出意外的话,微软的Windows 12应该会在本地一些应用加入AI,比如画图。届时我们的操作系统在AI部分应该是一个本地和云端并行的系统。