ARM与大模型,狭路相逢

a2a0c5a4e402f1dd3c8323874d78eefd.gif

编辑:阿冒

设计:沐由

从去年底至今,伴随着OpenAI旗下ChatGPT的火爆,一波AI大模型推动着AI应用全面进入了大模型时代。与此同时,随着边缘算力的提升,AI大模型的部署也逐渐从云端涉入到边缘。

世界对AI算力的需求无穷无尽。面临摩尔定律失效软件计算法效率低下生态环境制约等问题,就尤其需要通过架构创新、先进封装等方式突破限制,从而提供更高效的方案。

作为天生具备高效能的创新计算架构,ARM处理器愈发引起产业内外的广泛关注。产业界由衷期待,在这个百花齐放的大模型时代,ARM处理器能够带来更多的精彩。

30764a4bf84e18c0fb0ce7d354d1fa46.jpeg

计算世界的生力军

c70f9c3d540d1b2300fb14e94e6b6cbb.png

突如其来的AI大模型时代,带来的是行业智能化的深度融合与快速突进,我们甚至肉眼可见一些细微而深刻的“智变”正在发生,在我们的办公室、家里、城市中……

与通用计算一样,人工智能的三大核心要素,也是算力、算法和数据。某种程度上,三大要素在大模型中的“功效”,甚至远远超出了通常计算环境下的作用:

大模型动辄百亿乃至千亿级的参数,其计算训练输出的结果就尤其需要强大的算力支撑;在算力的支撑之下,算法对于提高大模型性能、优化训练和推理过程,以及实现自动训练等关系重大;数据则是人工智能的基石,是大模型广泛应用和实现价值的必要前提。

由此,大模型热潮为计算产业,乃至千行百业的创新发展开启了超级风口。借助这波计算爆发的机会,ARM也在向着计算市场全面延展,对PC处理器、云端服务器发起冲击。

8985e4a937d25e57de019ff6854f0a77.jpeg

以前,人们通常认为ARM仅适用于一些简单的终端,难以满足繁重的计算任务。不过随着ARM架构的不断演进,以及伙伴们的持续努力,ARM处理器也开始在数据中心扮演更为重要的角色。

比如我们熟知的华为鲲鹏CPU飞腾CPU等,均采用了先进的ARM架构,它们在当前诸多领先的云数据中心里,已经得到了非常广泛的应用,满足人工智能、大数据等各种严苛业务的算力需求。

众人拾柴火焰高。不像那些专属于单一厂商的计算架构,ARM处理器在智能时代真正释放了多元化计算的价值,为众多厂商提供了集思广益、共同进步的舞台。

华鲲振宇为例,作为华为与中国华录集团在人工智能领域进行深度合作的结晶,这套为AI计算提供的全面解决方案,实现了从开发到部署以及数据存储全流程的国产化软硬件一体化的AI应用,极大地弥合了算力硬件与AI应用之间的差距。

面对千行百业如大海般磅礴的智能化需求,凭藉着指数级增长的AI能力和生态厂商的协力同心,ARM必将扮演越来越重要的角色,发挥前所未有的巨大作用。

AI落地的“最后一公里”

32be57a41bac46a3ab35d5b51f0ed21a.png

正如前文所言,愈发强大的ARM芯片不仅能够在数据中心,更可以在广泛的边缘侧,带来现场级、实时、短周期的智能分析和快速决策,这也是智能化真正落地的关键。

如果仅依赖云端服务器和数据中心,工作负载不仅会导致处理效率低下,也无法适应多元化的终端处理需求。因此,侧重局部和小规模处理的边缘计算,在智能化时代变得愈发重要。

通过将AI算法和模型部署到边缘设备上,边缘智能在本地实时进行数据处理和决策,减少对云端的依赖,实现智能感知、智能分析和智能决策,这也是AI落地“最后一公里”的关键。

在边缘侧,ARM处理器具有得天独厚的优势,能够为边缘智能提供强大的AI加持。很多基于ARM处理器的主流手机,已经能够有效处理复杂的AI推理应用任务,例如语音识别、AI影像等。

3dd0f1e7aadd08c663430178d21f5c5d.jpeg

目前,在智慧城市、智能制造、智慧交通等领域,由于能够有效降低延迟、高效利用资源、保护数据隐私,边缘智能已经发挥着不可或缺的作用,并不断向新的应用领域延伸。

智能必须无所不及!从云到边再到端,缺失了其中的任何一环,人工智能的“灵魂”都不会是完整的。毫不夸张地说,边缘侧ARM芯片的支持,关系到千行百业的智能化成败

目前,全球约有90%的AI都运行在基于Arm架构的CPU上,这些持续投入使Arm成为全球最普遍的AI计算平台之一,也吸引了越来越多的开发者加入进来,这也意味着前所未有的 AI 规模潜力将得以释放。

在建立了广泛和庞大的合作伙伴体系之外,ARM还投入了大量的工程资源与时间用以支持开源项目,为全球软件开发者提供更多的获取资源和更高的性能,持续积极为开源社区提供理想的开发者环境,助力实现AI的无处不在。

尤其值得称道的是,ARM完全吻合世界主流的“绿色计算”大趋势。绿色计算是经济社会实现可持续发展的重要保障,在当前的时间节点下,以低功耗、高性能著称的ARM处理器无疑拥有愈发广阔的施展空间。

共赴数字时代的计算之约

914beda9e019151742dbebf01f31f75b.png

我们正在迎来最好的时代,ARM也是一样。与大模型的“狭路相逢”,必将在ARM和计算产业的发展历程,乃至智能世界的演进中,添上浓浓的一笔。

当然,处理器只是计算生态的组成部分之一,整个计算产业链涵盖了PC、服务器、存储、操作系统、中间件、虚拟化、数据库、云服务等,还包括行业应用、咨询管理服务等流程。

0f155ef01dd04479456cd00d2b0bbb69.jpeg

全栈的IT基础设施、丰富的行业应用,以及完整的服务生态,不止是ARM芯片异于其他产品体系的特质,同样也是绿色计算产业联盟(GCC)、边缘计算产业联盟(ECC)等机构致力和追求的目标。

早在2019年,两大产业联盟就签署了合作协议,共同推动相关规范的制定、测试验证和落地推广,还组成了相应的工作组,发布了基于绿色计算的边缘数据中心硬件技术规范……一系列的工作极其有效和有力地推动了边缘计算和绿色计算的有序发展,可谓成果显著。

2023年12月13-14日,绿色计算产业联盟、边缘计算产业联盟在北京联合举办“2023计算产业生态大会(CIEC 2023)”,夯力打造一场涵盖绿色计算、边缘计算等计算领域全产业链的高端性、权威性、前瞻性的产业生态盛会。

作为年底计算领域的最重头会议,本次大会将聚焦与探讨前沿技术、发展趋势、创新应用、发展成果,擘画中国计算产业的未来蓝图,以数智力量赋能千行百业,推动数字经济的高质量发展。

届时,将会有超过1000位来自全球的商业领袖、国际组织代表、行业顶级专家、生态伙伴、行业分析师和媒体出席本次盛会,共同探讨计算领域的最新前沿技术和发展趋势,集中展示绿色计算和边缘计算领域的诸多应用与成果,为更多的商业创新点燃成功的“火花”。

超过18场高质量的Keynote,汇集了诸多两院院士和顶级专家;五大专业主题论坛,囊括了当前各种热门内容……2023计算产业生态大会致力于为建设数字中国提供有力支撑,与各方共同推动中国式现代化的进程

来吧!让我们共赴这场计算之约。

扫描图中二维码,即刻报名参会↓

65e01f8d10c4f85fb9c9470cb9460749.jpeg

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/206466.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

cpu飙高问题,案例分析(三)——非标导入引发CPU彪高,与RateLimiter限流

一、背景 非标导入使用easyexcel组件进行导入处理,10几万的数据量引发CPU彪高。 二、排查思路 查看线程栈相关信息;pinpoint监控查看性能及代码调用情况;是否存在大量阻塞慢SQL;是否存在短时间内频繁日志输出; 三、…

element中el-form-item设置label-width=‘auto‘报错

文章目录 一、问题二、解决三、最后 一、问题 el-form中的设置了全局标题宽度是200px&#xff0c;此时想要对el-form-item取消标题宽度&#xff0c;设置了label-widthauto&#xff0c;结果&#xff0c;报错了~~~ <el-form label-width"200px" label-position&quo…

echarts 地图

效果图 业务组件 <template><mapEcharts :itemStyle"mapProps.itemStyle" :emphasisLabelStyle"mapProps.emphasisLabelStyle":emphasisItemStyle"mapProps.emphasisItemStyle" :labelInfo"mapProps.labelInfo":rippleEffec…

类和对象——(3)再识对象

归纳编程学习的感悟&#xff0c; 记录奋斗路上的点滴&#xff0c; 希望能帮到一样刻苦的你&#xff01; 如有不足欢迎指正&#xff01; 共同学习交流&#xff01; &#x1f30e;欢迎各位→点赞 &#x1f44d; 收藏⭐ 留言​&#x1f4dd; 你说那里有你的梦想&#xff0c;…

Git常用命令#merge分支合并

要查看所有分支&#xff0c;包括本地和远程仓库的分支&#xff0c;可以使用以下命令&#xff1a; 1.查看分支 1.1 查看本地分支 git branch这个命令会列出本地所有的分支&#xff0c;当前所在的分支会有 * 标记。 1.2 查看远程分支 git branch -r这个命令会列出远程仓库的分…

RAM++(recognize anything++)—— 论文详解

一、概述 1、是什么 RAM&#xff08;RAM plus plus&#xff09;论文全称 《Open-Set Image Tagging with Multi-Grained Text Supervision》。区别于图像领域常见的分类、检测、分割&#xff0c;他是标记任务——多标签分类任务&#xff08;一张图片命中一个类别&#xff09;&…

hutool的bug之 DateUtil.endOfDay(DateUtil.date())

hutool 工具类DateUtil 使用时谨慎 DateUtil.endOfDay 得到的时间保存到数据时会增加一秒 首先比较下时间的long值&#xff1a; 这样就很明显的看出来&#xff0c;hutool工具类的date是毫秒位多了.999,保存到mysql 的时候&#xff0c;MySQL数据库对于毫秒大于500的数据进行…

基于B/S架构的医院一体化电子病历编辑器源码

电子病历在线制作、管理和使用的一体化电子病历解决方案&#xff0c;通过一体化的设计&#xff0c;提供对住院病人的电子病历书写、保存、修改、打印等功能。电子病历系统将临床医护需要的诊疗资料以符合临床思维的方法展示。建立以病人为中心&#xff0c;以临床诊疗信息为主线…

基于51单片机的电子时钟设计

1&#xff0e;设计任务 利用AT89C51单片机为核心控制元件,设计一个简易的数字时钟&#xff0c;设计的系统实用性强、操作简单&#xff0c;实现了智能化、数字化。 它可以对年、月、日、时、分、秒进行计时&#xff0c;而且DS1302的使用寿命长&#xff0c;误差小。对于数字电子…

qt-C++笔记之点击按钮弹出文件资源管理器选择文件后把文件路径赋值给一个QString

qt-C笔记之点击按钮弹出文件资源管理器选择文件后把文件路径赋值给一个QString code review! 文章目录 qt-C笔记之点击按钮弹出文件资源管理器选择文件后把文件路径赋值给一个QString1.运行2.main.cpp3.qt_FileDialog.pro4.QFileDialog类详解 1.运行 2.main.cpp 代码 #inclu…

loading...字符变化动画

公司业务一个简单的需求loading...文字动画&#xff0c;不想用js实现&#xff0c;问过GPT后学习了css写法 效果预览 代码实现 keyframes text-change {0% { content: "."; }33% { content: ".."; }66% { content: "..."; }}.text_loading_anima…

⭐ Unity 里让 Shader 动画在 Scene 面板被持续刷新

写 Unity Shader的时候&#xff0c;只有播放状态下的 Game 面板能看到Shader 顺畅的动态效果&#xff0c;不方便。 想要带有动态效果的 Shader 在 Scene 面板持续更新动画&#xff0c;只需要打开一个开关就能让 Scene 持续刷新动画了。 感谢大家的观看&#xff0c;您的点赞和关…

使用Golang构建高性能网络爬虫

目录 一、Golang的特点 二、构建网络爬虫的步骤 三、关键技术和注意事项 使用协程进行并发处理 使用通道进行协程间的通信 合理控制并发数和处理速度 遵守网站使用协议和法律法规 防止被网站封禁或限制访问 优化网页解析和数据处理 异常处理和错误处理 日志记录和监控…

shell编程系列(7)-使用wc进行文本统计

文章目录 前言wc命令的使用wc命令的参数说明&#xff1a;统计字数统计行数打印文本行号 结语 前言 统计功能也是我们在shell编程中经常碰到的一个需求&#xff0c;wc命令可以适用于任何需要统计的数据&#xff0c;不只是统计文本&#xff0c;配合ls命令我们可以统计文件的个数…

英国人工智能初创公司Stability AI面临卖身压力;深度学习中的检索增强生成简介

&#x1f989; AI新闻 &#x1f680; 英国人工智能初创公司Stability AI面临卖身压力 摘要&#xff1a;多位知情人士透露&#xff0c;英国人工智能初创公司Stability AI正寻求出售公司&#xff0c;因为投资者对其财务状况的压力越来越大。管理层最近几周一直将自己标榜为收购…

ArkTS-日期滑动选择器弹窗

日期滑动选择器弹窗 根据指定的日期范围创建日期滑动选择器&#xff0c;展示在弹窗上。 示例 lunar&#xff1a; 接受一个boolean值&#xff0c;日期是否显示为农历。 Entry Component struct DatePickerDialogExample {selectedDate: Date new Date("2010-1-1")Sta…

2023年亚太杯数学建模A题——深度学习苹果图像识别(

Image Recognition for Fruit-Picking Robots 水果采摘机器人的图像识别功能 问题 1&#xff1a;计数苹果 根据附件 1 中提供的可收获苹果的图像数据集&#xff0c;提取图像特征&#xff0c;建立数学模型&#xff0c;计算每幅图像中的苹果数量&#xff0c;并绘制附件 1 中所有…

(四)基于高尔夫优化算法GOA求解无人机三维路径规划研究(MATLAB代码)

一、无人机模型简介&#xff1a; 单个无人机三维路径规划问题及其建模_IT猿手的博客-CSDN博客 参考文献&#xff1a; [1]胡观凯,钟建华,李永正,黎万洪.基于IPSO-GA算法的无人机三维路径规划[J].现代电子技术,2023,46(07):115-120 二、高尔夫优化算法GOA简介 高尔夫优化算法…

和鲸科技与国科环宇建立战略合作伙伴关系,以软硬件一体化解决方案促进科技创新

近日&#xff0c;在国科环宇土星云算力服务器产品发布会暨合作伙伴年度会上&#xff0c;和鲸科技与国科环宇正式完成战略伙伴签约仪式&#xff0c;宣布达成战略合作伙伴关系。未来&#xff0c;双方将深化合作&#xff0c;充分发挥在产品和市场方面的互补优势&#xff0c;为企事…

【广州华锐互动】节约用水VR互动教育:身临其境体验水资源的珍贵!

随着技术的不断发展&#xff0c;虚拟现实&#xff08;VR&#xff09;技术在许多领域得到了广泛应用。在节水宣传教育方面&#xff0c;VR技术也展现出了其独特的优势。与传统宣传教育方式相比&#xff0c;节约用水VR互动教育具有更加沉浸式、互动性和实践性的特点&#xff0c;能…