端侧AI的“春风化雨手”,翻开中国科技下一页

d23965f82885a690e6215c7371132e02.jpeg

大模型是一年多来全球科技圈的最大热点,手机厂商想要借助大模型的锋芒,打造高端形象,获得新的增长,这无可厚非。

不过,大家注意到没有,越是“AI强者”,对待大模型越举重若轻。

简单来说,就是不会为了大模型而大模型,过多强调大模型本身有多么厉害,而是将这一新技术,拆解到自身已有的AI体系中,融化到用户需求和体验变化中。

比如说苹果,在AI芯片、AI算法上都有颇多建树,但对大模型,却冷静观察了很久,库克曾说过:使用生成式AI“深思熟虑和考虑周到非常重要”,前不久苹果才开源了一个雪貂模型,iPhone落地大模型的时间还未可知。

而放眼国内厂商,华为、荣耀则是手机AI的先行者。

华为很早就确定了移动AI的防线,推出的首款搭载NPU支持AI专项任务的处理器,甚至早于苹果;荣耀对手机AI的探索则可以追溯到2016年,推出了首款AI手机Magic一代,搭载历时四年研发的平台级AI解决方案Magic Live智慧系统,率先把AI概念引入手机。

那么,华为和荣耀又是如何处理手机与大模型的关系呢?

2023年中,华为Mate60系列接入大模型,更多强调的是,大模型能力与Harmony OS手机系统的深度整合,给新系统带来的能力升级。

荣耀对待大模型也很慎重,是头部国产厂商中最后一个发布端侧大模型的。对此,其荣耀研发管理总裁CTO邓斌曾在一次交流中提到:荣耀聚焦AI本身,始终把理解用户作为整个系统的中枢神经,不是有了大模型才开始做AI,而是按照荣耀既定的平台级AI策略,让AI赋能整体操作系统,以用户为中心,实现服务直达的创新交互,大模型是为了加快这一进程。

不难看到,将用户体验作为首要目标,找到一种以人为本的交互方案,成为苹果、华为、荣耀等一众“端侧AI先行者”的共同选择。

大模型只是工具,人才是目的。这让我想到了武侠小说中,那些武功已达化境的高手,不拘泥于武器和招式,不一定要锋芒毕露,出手前先大喊一声“亢龙有悔!”而是春风化雨般见招拆招。

2024年1月10日,荣耀发布的魔法OS MagicOS 8.0,率先打造了基于AI意图识别的个人化操作系统。将端侧大模型融化在荣耀的平台级AI体系中,MagicOS 8.0成为一双手机大模型的“春风化雨手”,翻开了人机交互的下一页。

e27d3edc18c953652e737007452d10a4.jpeg

我们就从MagicOS 8.0的变化说起,聊一聊端侧AI之于中国科技意味着什么,为什么MagicOS、iOS、鸿蒙或将“三分天下”。

手机大模型

究竟为什么出发?

86f0855d203670be97f412254850e480.png

2023年,我参加过数场手机大模型的发布会,逐渐发现了一些“套路”:

首先,高瞻远瞩地分享一些大模型、生成式AI的前沿趋势;然后宣布我们也有类似的技术,打造了XXGPT,参数XX,可以写文案、画图;接着晒出一张大模型基准测试的排名,在“某某赛道”上超越了微软、谷歌、OpenAI……

这种AI版的“跑分大战”,厂商们还乐此不疲,观众们已经意兴阑珊。

科技圈有一句话,消费者并不清楚科技可以干什么,不知道自己想要什么,但一定知道他们不想要什么。当手机厂商在用力兜售大模型时,用户的内心却充满了纠结,具体表现为很多的“不想要”:

d5d01fe1fead241815f18a8a32922510.png

不想要额外的负担。通用大模型都有手机版APP,直接安装就可以在云端调用运行,把大模型放到手机里,会增加功耗和算力需求,需要更先进的处理平台来支持,有必要吗?

不想要同质化的功能。大模型和生成式AI狂奔一年,文本写作、以文生图、跟智能助手用自然语言交互,这些使用场景被各个厂商翻来覆去地教育市场,早已耳熟能详,有新鲜的吗?

不想要复杂的交互。想要大模型的生成质量好,用户得先学会写prompt,人机交互的门槛就增加了,不懂“提示语工程学”,就用不好大模型吗?

从传统机器学习、深度神经网络再到大模型,手机AI的技术永远在进步,也永远是工具,而非终极目的。

任何技术,都要与用户需求相适配,真正革新体验,让用户真心实意发出“想要”的感叹,才能落实为产品价值和市场价值。

化解用户心中的种种疑问,抚平不想用、不敢用、用不起的种种纠结。手机大模型,在等待一双“春风化雨手”。

0ed6ab21c9d9b97228aa5ed55955e0b5.png

IUI

是人和大模型的最短路径

大模型和用户之间,究竟如何建立起真正的亲密关系?全新的交互方案与操作系统,是人和大模型的最短路径。

大家可能听过一句话:简单的留给用户,复杂留给自己。操作系统的价值,就在于此,在手机中起到了承上启下的作用。向下协调软硬件资源,让传感器、摄像头、处理器等各种元器件能力为用户所用;向上支持丰富的应用软件,让用户便捷地获取服务。

更符合自然习惯的人因交互,一直是操作系统的进化趋势。

从以DOS为代表的命令行交互界面(CLI),到以Windows为代表的用键鼠输入的图形交互界面(GUI),再到以安卓和iOS为代表的以触控为核心的自然用户界面(NUI),每一次人机交互的变革,OS操作系统都会屏蔽掉大量烦琐复杂的底层技术,让设备变得越来越“傻瓜化”,普通人也能直接使用。

因此,理论上说,用户对于手机大模型和端侧AI的种种纠结,比如算力、功耗、应用、安全……都可以通过操作系统被消弭,只留下极简、人性化的交互体验。

通过基于意图识别的人机交互(Intent-based UI)和个人化操作系统,消除设备端复杂的AI软硬件技术和各种元器件所带来的操作门槛,化繁为简,让大模型走近人、理解人、服务人。

但实际中,要把大模型融化于端侧AI体系,打造意图识别人机交互IUI,并不是一件容易的事。

就拿荣耀魔法OS来说,其技术能力迭代时间,就长达10年,期间荣耀投入的资金量达百亿级。不遗余力,功夫始成,才有了MagicOS 8.0的“春风化雨”,消除大模型入端的重重门槛,真正翻开人机交互的下一页。

7503da6bb74feed9ede83a46e380f214.jpeg

具体来说,将大模型融入端侧平台级AI,建立起大模型与用户的最短路径,MagicOS做到了三件事:

第一件,也是最重要的一件事,看见完整的人。

传统的OS内核,是负责管理和调度系统的硬件资源,如CPU、内存、硬盘、I/O设备。

想要构筑真正以人为中心的体验,打造基于意图识别的人机交互IUI,OS需要一个由“人相关因子”构成的“新内核”,对这些因子进行解析和计算,才能更好地理解人、服务人。

d6f8ff615ab8106de20a9f65912e9d23.jpeg

我们知道,人不是单向度的存在,是一种复杂多维度的生物,有些特征可以被标签化,有些隐藏属性则很难被洞察。为此,荣耀用多年实践,积累了与人相关的因子,包含:

1. 个人知识库。人的个体与行为类因子,例如年龄性别、健康状态、运动习惯、生活方式、工作休闲时间等。

2. 人的位置和状态感知,也就是人所处场景的相关因子,系统可以对人的位置、人的状态感知(走、跑、骑、乘等)。

3.人的习惯和画像学习。

通过这个“人因”新内核,魔法OS可以看见更完整的人,精准识别用户意图,高效调度系统服务,让“猜你所想,懂你所需”的智慧体验,成为可能。

第二件事,则是拆除大模型的端侧瓶颈。

大模型强大的理解分析和创造能力,为打造意图识别人机交互IUI注入了技术动能。但问题又来了,手机大模型,不只是大模型。以大模型加持IUI,需要考虑到底层硬件平台的调优、算法优化、模型压缩、功耗控制、模型数据安全等一系列因素,共同决定了大模型的端侧落地效果,直接影响到人机交互体验升级。

魔法大模型在Magic6上首发,荣耀已经攻克了端侧大模型性能和功耗的平衡难题。

791bdfb26dadee26e1d43d3c6508b9ec.jpeg

一方面,荣耀自研的魔法大模型属于端侧大模型,不同于云侧大模型要将数据上传到云端进行识别分析,魔法大模型可以做到让个人数据不出端、不上云。结合荣耀两锁一芯的架构,保证模型在端侧安全运行并存储,和端外完全隔离。

此外,荣耀还联合高通开发深度调试,荣耀自研70亿参数的大模型经过量化、剪枝后,被部署在骁龙8 Gen3上,实现了端侧的流畅运行。

可信赖、反应快,消除了端侧大模型的落地障碍,端侧AI才能真正让用户交付信任,对用户意图进行更深度、更精准、更细腻的理解。

第三件事,则是平台级AI的精准对接。

我们都知道,大模型及生成式AI能干很多事,写文案、画画、创作音乐、做数学题、讲故事……而用户需求同样很多样,生活出行服务、视频娱乐、金融证券、在线教育、视频会议等,手机几乎承载着大家日常生活的所有需求,有些需求可能用户自己都没有意识到,比如给孩子做一个生日视频、为宠物制作N张手机壁纸。

传统OS需要用户自己意识到具体的需求,在大量应用和能力中寻找对应的服务,随着端侧设备和应用服务的快速增长,“供需对接”这件事已经变得越来越繁琐,甚至有的用户不堪重负,开始主动进行“数字戒断”,以减少劳动量。

b789e1172b3facdf69f33857e99e34f7.jpeg

这时候,荣耀的平台级AI,就为IUI提供了一个非常好的基座。所谓平台级AI,不是单一孤立的AI应用,而是把端侧AI能力拆解到一个个具体的场景里,带来基于意图识别的服务闭环。

用户不需要费神劳心地被动寻找服务,大模型加持的魔法OS平台级AI,可以为用户提供恰到好处、精准匹配场景的主动服务。

拆除了上述障碍,用意图识别人机交互“春风化雨”,魔法OS成为人和大模型之间的最短路径。

通过魔法OS 8.0

拥抱端侧AI的温柔

e6d4939d2ce0df3b086a40538378ea3d.png

沿着魔法OS 8.0铺设的一条大模型之路,用户终于可以打消种种顾虑和纠结,拥抱端侧AI。

人因交互的温度,可以通过很多个微小的瞬间,被强烈地感受到,比如:

一个化繁为简的感动瞬间。

想为家人制作一个年度精彩瞬间,为爱人制作一个周年纪念日视频,但不会操作剪辑软件,很多用户只好“算了”。魔法OS 8.0用基于意图识别的人机交互,将专业门槛“化繁为简”,让这些用户因为麻烦而压抑的隐藏需求,得到释放和满足。

通过魔法端侧大模型,魔法OS 8.0理解了用户的对话指令,结合对用户的独特理解,可从个人图库中的照片、视频精选精彩瞬间,自动剪辑成片。只需要一句自然语言指令,就能让原本复杂的专业操作,变得格外简单。

382edf369807b5ba5734556c300ea17f.gif

一个童话般的神奇瞬间。

看过哆啦A梦的大小朋友,都幻想过拥有一扇任意门,只需轻轻一迈,就能徜徉在一个个神奇瑰丽的世界。然而现实中,大多数时候我们只能徜徉在日复一日的枯燥重复劳作中。

收到一封工作邀请函,需要复制事件,添加日程;复制时间,添加闹钟;复制地址,导航搜索;复制航班,等待出发……一个看似简单的任务,却包含着大量隐形劳动。光是把精力放在这些繁琐的人机交互上,就足以让打工人身心俱疲了。

MagicOS 8.0基于平台级AI技术的“王炸级”交互功能——任意门,就可以把大量重复操作折叠,根据拖拽内容,自动识别用户意图,在门内动态匹配智慧推荐服务,跨应用一步直达。

abbd36c0c525864a597eecf9d1a86b9c.gif

比如纸质挂号单、邀请函,微信里工作伙伴的邀约拜访,学校老师的群消息通知等,这些生活中高频出现的文件,包含了文本、图片、图像、表格等复杂信息,只需要手机拍下来,往任意门一拖,端侧大模型就会进行语义分析、跨模态理解,自动提取录入关键信息,一步生成日程,不再需要人费心费力去拆解处理。

在一次次“一步直达”的惊喜中,任意门和个人事务中心如同童话中的神奇魔法,将人从疲惫生活中解放出来,拥有更多闲暇去感受美好。

一个被AI赋能的有力瞬间。

以前的智能手机,是人的眼睛和四肢的延伸,让人能够看得更远、远程操控大量iot设备。有了AI之后,手机又多了一个具有强大理解能力的“大脑”,成为人思想和思维的延伸。这个“AI大脑”的载体,就是智能助理。

在端侧大模型加持下,荣耀智能助理YOYO能力得到大幅提升,可以实现深入用户意图的理解和复杂任务的主动服务,成为每一个用户手中时刻在线、专业贴心的私人助理。

用户通过YOYO智能助理,可以与大模型进行默契式对话,不需要机械式的命令指令和反复确认,端侧大模型让YOYO能听懂用户的话中话(指代词),理解用户的意中意(潜在意图),然后进行自动Prompt,将用户的简单提示语解析为详细提示语,来主动提供服务。

举个例子,说一句“YOYO,去老地方吃饭”,它就会在端侧进行分析,理解“老地方”是哪里,有了这个“外挂大脑”,无需用户费力思考,人机交互变得更省心。

需要说明的是,端侧AI不等于手机AI,如果大模型只能在手机上应用,却无法在其他设备上发挥效用,相当于“瘸腿”。端侧AI,必须带来一个个“境随心转”的瞬间。

大模型加持的意图识别人机交互,数据和服务要跟随着人的行动和场景变化,在手机、汽车、智慧屏、笔记本电脑、平板等多种设备之间,安全而自如地进行流转,避免体验上的割裂或参差不齐。

跨越设备壁垒,背后需要极高的技术创新(如鸿蒙OS)或完整生态(iOS),荣耀也带来了自己的解法。魔法OS 8.0的信任环技术再升级,通过全栈重构,把平台级的AI引入互联技术栈中,行业首创智慧决策层,带来服务智慧随人流转的体验,能够感知用户当前使用的设备,自动完成服务流转。

用户出门时,音乐、有声内容、导航、视频通话、网约车接单等服务一键流转无缝上车,享受车载大屏和专业音响;高效办公时,PC、平板可以直接调用手机摄像头拍摄图片,插入文档;外出跑步,不想携带手机又担心错过重要消息,手机信息能远程自动同步手表,不耽误事儿……

随风潜入夜,润物细无声,大模型加持的平台级AI能力,融化于IUI操作系统之中,魔法OS 8.0的交互革新,让数字生活有了前所未有的变化。这双端侧AI的“春风化雨手”,让用户沉醉于科技的温柔。

619da9adabc1d46ed626627cc15dddda.png

端侧AI的“春风化雨手”

握着中国科技的未来

功夫已达化境的大师,往往心怀天下,而非一己私利。荣耀对大模型的思考,不止于IUI,也不局限于自己的“一亩三分地”。

此次发布会上,与大模型有关的另一个大事件,就是荣耀推出“百模生态计划”。

f60cd637bca93471571e5a0967024b6f.jpeg

如果说,魔法OS是将荣耀自己的魔法端侧大模型,拆碎了融入端侧,那么百模生态计划,荣耀则希望凝聚全中国的AI力量,构建一个前所未有的智慧服务生态。

这是第一个,将云侧通用大模型和各种行业垂域大模型,统统纳入端侧操作系统的大模型。中控开放架构,为“百模大战”之后的大模型厂商和企业,提供了一个落地端侧的入口。

举个例子,未来用户在出行时,YOYO助理可以理解对话中的位置信息,自动拉起高德地图,一句话规划生成行程导航;如果想搭乘航班,魔法OS 8.0会将本地端侧数据进行脱敏,接入航旅纵横的千穰大模型,获取更加专精的垂类服务。

从这个角度看,荣耀生态也是一个大模型厂商们构建差异化体验、逃出同质化竞争的绝佳土壤。

而对于用户来说,魔法OS也提供了第一个,也是目前唯一一个,接入大模型生态的“最短路径”,不需要额外安装或在不同平台来回切换,就能让丰富、专业、优质的各种大模型应用,为己所用。

以中国通用大模型的第一梯队百度文心为例,魔法OS的用户未来不仅能通过YOYO助理使用到百度文心大模型,而且,百度智能云千帆大模型平台也成为荣耀大模型生态的战略合作伙伴,开发者可以通过更多AI原生应用,丰富MagicOS移动应用生态,为用户提供前所未有的智能体验,抓住移动互联网之后的下一个红利期。

a24b0ec74c95184562e6f9e26e326b2f.jpeg

借助魔法OS这双“春风化雨手”,大模型厂商、智慧终端上下游企业等众多中国AI参与者,也握住了未来。中国AI力量加速集结,为中国科技的“元创新”写下新篇。

MagicOS与鸿蒙一起,为中国OS添砖加瓦,成为鸿蒙、iOS之外的第三极,让中国AI成就世界荣耀,让这人间处处有智能。

当大模型融化于端侧AI,你我则将融化于科技的温柔。

a673a63cee7fe11274adf1c1c197064d.gif

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/315128.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

比尔盖茨:如果只能解决一个问题,我的答案总是营养不良

谷禾健康 当地时间12月19日,微软联合创始人、亿万富翁比尔盖茨发布了对来年的年度预测,称 2024 年将是一个“转折点”。 在这封长达 10 页的信中他展示了对人工智能领域的更多创新、婴儿营养不良问题的突破、气候变化谈判的进展等多方面的期待。 人工智能…

C++(9)——内存管理

1. 内存分类: 在前面的文章中,通常会涉及到几个名词,例如:栈、堆。这两个词所代表的便是计算机内存的一部分 。在计算机中,对系统的内存按照不同的使用需求进行了区分,大致可以分为:栈 、堆、数…

What does `rpm -ivh` do?

rpm -ivh 安装 并 显示安装进度 (–install–verbose–hash) rpm -ivh /media/cdrom/RedHat/RPMS/samba-3.0.10-1.4E.i386.rpm 安装rpm -ivh --relocate //opt/gaim gaim-1.3.0-1.fc4.i386.rpm 指定安装到 /opt/gaim[Ref] rpm -uvh和-ivh有什么区别以及zabbix 安…

在微服务架构中认证和授权的那些事儿

在微服务架构中认证和授权是最基础的服务能力,其中这一块行业类的标准就是OAuth2 和 SSO ,而OAuth2 和 SSO 可以归类为“用户管理和身份验证”工具,OpenID Connect 1.0是 OAuth 2.0 协议之上的一个简单身份层。 Part.1 认识OAuth 2.0 OAuth…

libignition-gazebo-diff-drive-system.so是什么

因该就是个动态链接库,库文件之类 而且就是gazebo6版本也就是ign 这个版本的动态链接库有个特点:全部都是以.so结尾,所以很可能ign的插件plugin都是带.so的 abcdegx.so elvikorflsd.so fvlwirjgiojf.so等

系分笔记计算机网络OSI七层模型概念、协议和作用以及TCP/IP协议

文章目录 1、概述2、 OSI七层模型概念、协议和作用3、TCP/IP协议3.1 网络层协议和传输层协议3.2 应用层协议 4、总结 1、概述 计算机网路是系统分析师考试的常考知识点,本篇主要记录了知识点:OSI七层模型概念、协议和作用以及TCP/IP协议中比较重要的考点…

自动化测试和人工测试分别有什么优缺点?

自动化测试 优点 效率高:自动化测试可以快速执行大量测试用例,这对于大型项目或需要频繁进行回归测试的项目非常有用。 一致性强:自动化测试每次执行都会产生相同的结果,这有助于确保测试结果的可靠性和可重复性。 可重复性&am…

day15 层序遍历 翻转二叉树 对称二叉树

题目1:102 二叉树的层序遍历 题目链接:102 二叉树的层序遍历 题意 根据二叉树的根节点root,返回其节点值的层序遍历 借助队列实现,因为队列是先进先出的逻辑,符合层序遍历一层一层遍历的思想 代码 /*** Definitio…

Unity Shader 开发入门3 —— 坐标空间变换

文章目录 一、变换矩阵1.1 齐次坐标1.2 平移矩阵1.3 旋转矩阵1.4 缩放矩阵1.5 复合变换 二、世界空间变换三、观察空间变换四、裁剪空间变换4.1 视椎体4.2 齐次裁剪空间4.3 视椎体投影方式 五、屏幕空间变换 ​ 在 Shader 开发中存在不同的坐标空间,包括&#xff1a…

逆变器2(原理框图)

总流程 输入(低压直流24Vdc)——升压(DC—DC)(高压直流369Vdc) ——逆变(DC—AC)(交流220V) 升压电路:BOOST电路、LLC电路、推挽电路 逆变器过程…

Java常用类---Object类-->Clone方法

Object类 理论上Object类是所有类的父类,所有类都直接或间接的继承java.lang.Object类。因此省略了extends Object关键字。 Object类中具体方法如下图所示: 其中,部分绿色小锁子图标,如:getClass()、notify()、notif…

AI会完全替代Java程序员吗?

作为一个 Java 开发的从业人员,以我自己对GPT的使用来说, AI 现阶段想要完全取代程序员,那是完全不可能的。 当然,随着算力以及数据的训练越来越多,以后不好说,个人觉得大部分基础代码完全可以使用 AI 生成…

Linux内存管理:(八)页面迁移

文章说明: Linux内核版本:5.0 架构:ARM64 参考资料及图片来源:《奔跑吧Linux内核》 Linux 5.0内核源码注释仓库地址: zhangzihengya/LinuxSourceCode_v5.0_study (github.com) 1. 可迁移页面 页面迁移机制支持两…

计算机毕业设计----Springboot超市订单管理系统

项目介绍 该超市订单管理毕业设计基于jdk8版本开发,在部署时需要使用jdk8以上的版本。使用了目前流行的框架组合springbootmybatis的框架技术, 实现了供应商管理对供应商实现增删改查、订单管理对超市订单实现增删改查、用户管理等功能,适用…

解决Windows11 “我们无法设置移动热点”

目录 问题复现解决办法①启动网络适配器②打开移动热点③共享网络连接④连接移动热点总结 问题复现 因为交换机上网口限制,开发环境暂时没有WIFI设备,只有一根网线和一台笔记本电脑。于是开启笔记本电脑的WiFi共享服务。结果提示 “我们无法设置移动热点…

机器学习+大数据项目

一、特征工程 特征清洗 特征监控 特征选择 计算每一个特征和响应变量的相关性 通过L1正则项来选择特征 训练能对特征打分的预选模型 通过特征组合后再来选择特征 通过深度学习来进行特征选择

性能测试分析案例-定位服务吞吐量下降

环境准备 预先安装 docker、curl、wrk、perf、FlameGraph 等工具 sudo yum groupinstall Development Tools # 安装火焰图工具 git clone https://github.com/brendangregg/FlameGraph # 安装wrk git clone https://github.com/wg/wrk cd wrk && make && sud…

VUE---计算属性computed

概念: 基于 现有的数据 ,计算出来的 新属性 。 依赖 的数据变化, 自动 重新计算 。 语法: ① 声明在 computed 中,一个计算属性对应一个函数 ② 使用起来和普通属性一样使用 {{ 计算属性名 }},注意不…

N-137基于springboot,vue运动会报名管理系统

开发工具:IDEA 服务器:Tomcat9.0, jdk1.8 项目构建:maven 数据库:mysql5.7 系统分前后台,项目采用前后端分离 前端技术:vueAvueElementUI 服务端技术:springbootmybatis 本项…

网站建设网络设计营销类网站模板

★安装环境要求★ 服务器:Linux / Apache / IIS PHP版本:5.4及5.4以上,完美支持php7.4 MYSQL版本:5.0以上 PS:php版本推荐5.6,mysql推荐使用5.7 ★模板安装步骤★ 1、请将源码包里面的所有文件和文件夹上…