AR界安卓在中国,Rokid引爆空间计算狂潮

击关注

 文丨刘雨琦

你可能很难想象,在一个没有显示屏也没有鼠标的空间,仅凭一副AR眼镜和一台口袋主机,就能完成一篇5000字的文章。

没错,8月26日,在2023 Rokid Jungle 新品发布会现场,这样的场景正在真实发生着。会上,Rokid 发布了消费级OST(光学透视)个人空间计算平台 Rokid AR Studio,包括Rokid Max Pro(售价4999元)和Rokid Station Pro(售价3999元)两大硬件产品

Rokid创始人、CEO祝铭明在发布会上表示:“让空间计算能更自然地融入日常生活和工作,让Rokid AR Studio成为你的第一台空间计算机。”

这和以往人们对AR眼镜的认知有很大不同。在此之前,AR眼镜一直被“锁死”在娱乐场景中,靠影视和游戏两大支柱产业生存,而Rokid AR Studio 真正成为了个人生产力工具,IM软件、写文章、写代码,搜索信息等等工作场景,都能通过最新的硬件完成。

使用场景的扩展,让AR设备从边缘化的场景中,转向更为实际的使用价值。消费者愿意买单,整个AR产业链才会进入消费级市场正循环。

说自己是个“社恐”的老板祝铭明,是个十足的产品和技术控,他在内部曾毙掉两版产品设计初稿,差点把产品部“逼疯”。可当最后产品部偷偷拿出设计好的产品时,祝铭明立刻下令资源都倾斜到这个产品上。“我只关心一个数据,就是用户使用时长。目前,我们的真实用户使用时长已经接近一个半小时,周留存率超过20%。做到这个,用户会自然增长。”

用户数积累达到百万级别,也意味着,AR行业进入了软件系统和生态建设的第二阶段。近年来,已经有越来越多的系统厂商、应用软件厂商、内容厂商加入到AR生态建设中来。

“一群疯子,一个梦想,十年光阴。”

正如祝铭明所言,从娱乐场景到生产力工具,Rokid用了10年,这背后不只是思考的跃进,更是从硬件技术到软件技术,乃至整个产业链向前迈的一大步。苹果和Rokid开启了AR竞赛第二阶段,行业比拼也正在加速。

01 单目SLAM,怎么重新定义交互?

在整场发布会中,最令人意外的,不是Rokid Max Pro 76g的机身,而是只有一颗摄像头,竟然能完成SLAM(空间定位技术)、微手势交互、第一视角分享、视觉定位VPS能力等多种融合型的交互方式。

AR/VR设备在经历了物理交互(手柄)、语音交互、手势交互后,正在往眼球追踪和现在的多感知融合交互方案发展。

但多感知融合的交互,对于硬件的要求更高,除了要满足基本的需求,更要全方位、多角度的捕捉到用户动作、手势,才能精准地完成交互。

而用单颗摄像头完成SLAM交互有多难呢?

视觉SLAM方法包含两个模块,一个是Tracking,已知3D点位置,基础定位;一个是Mapping,更新3D点的位置。而无论是哪个环节哪种方法,单目意味着只能选择一种摄像头,以及固定位置和固定角度,对于识别的范围、追踪速度和精度都存在极大的挑战。

“业界都认为单目SLAM不可置信、很难做到”,祝铭明戏称,“这可能也是对Rokid的一种肯定吧”。

目前,市场上为数不多的具备空间交互的AR眼镜至少会搭载三颗摄像头,来承担算法功能。视觉路线的不同,也形成了以苹果为代表的VST(视频透视)和以Rokid为代表的OST(光学透视)两大阵营。

仍以苹果Vision Pro为例,其用12颗摄像头“堆”出了快速定位捕捉、高精度的全景感知以及精密追踪,并通过VST的方式,将外部的世界通过摄像头显示在终端屏幕上,通过摄像头的实时拍摄来看到外部世界。

但为了交互而堆硬件的方法,成本提高的同时价格也在翻番上涨,同时导致了机体重以及难量产两大落地难题。这也就是为什么,苹果Vision Pro定价3499美元,并要在2024年才能实现量产的根本原因。

而Rokid坚持的OST方案本身便存在着一定的技术壁垒,由于管路设计复杂,且显示画面视角有限,光学零部件成本造价较高,在价格不进行较大涨幅的情况下,Rokid只能通过技术突破的方式,来降低叠加成本。

而让行业认为“不可置信”的单目SLAM是如何做到的?会后,光锥智能与祝铭明进行了深度的交流,发现Rokid的“绝招”在于,用AI算法来突破硬件的壁垒。

祝铭明介绍到,单目SLAM技术虽然早就存在,但还从没有被应用在AR眼镜中,手机的前置摄像头也同样应用了此类技术,唯一不同的是:算法。

从AI到AR,这是一条看似跨越但实际上本质融通的道路,但也正是因为Rokid此前数年在AI领域的积累,通过多维度视觉算法模型,包括视觉定位与增强、数字人技术、2D/3D手势识别、OCR识别等技术,让AI在具体的场景中落地。

比如AR视觉定位与增强功能,就是在解决和突破单目的限制,通过构建厘米级的视觉地图,将虚拟信息在真实物体世界进行精准叠加融合,实现物体和场景的高精度三维重建。

Rokid副总裁、XR中心负责人王俊杰介绍道:“空间定位基于SLAM技术,然后才能在空间中进行稳定的自然交互。1~2秒的时间通过算法快速初始化,建立映射空间。”

而市场上,大多数设备还是采用双目的方案来解决,但双目融合也存在很多问题,除了成本多增加了一个摄像头之外,还需要不断用算法来实时拟合两个摄像头的数据,从而带来更多的复杂问题。

由此看来,如果单目方案能够顺利进行,Rokid就又率先踩准了一个技术趋势。此前,Rokid也是行业首创Station 主机的厂商,眼镜和主机分离的方案已经被证明是行业体验的最优解。

另外,在手势识别中,Rokid采用了微手势的交互方式,手指一捏,即可进行点击和选中;手势左右拨动,还可对正在浏览的界面或内容进行切换。简单的捏合和滑动手势等逻辑定义比较自然,上手较快。

通过我们的现场测试结果来看,目前Rokid可以实现双手的裸手空间交互,目前,Rokid手势识别的算法支持水平/空间轴转、明/暗光等复杂场景识别,同时可识别的手势类型丰富、算法精准,整体识别率约90%以上,并拥有毫秒级识别的响应能力及99%的可靠性保障。

Rokid表示,基于深度学习算法和大量实验数据,单目3D手势算法能在移动端实时重建手部姿态参数,包括手部6DoF、手部关节点6DoF,以及Hand Mesh信息,为AR的手势交互提供良好的算法基础。

目前,Rokid的手势识别在3D空间中可实现多种操作,包括点、捏、抓、握、拖、拉等等,完全可以满足AR交互应用需求。例如,戴上Rokid Max Pro,伸出手,在眼前张开手掌即可呼出菜单。

毕竟想要支持如此复杂的算法结构,背后的功臣不只摄像头,更与“大脑”也就是Rokid Station Pro的算力和性能息息相关。

02 口袋里的空间计算机

一直以来,整个VR/AR行业都存在着“算力、舒适度、价格”的不可能三角。算力更高的设备往往更重,价格也更贵,舒适度高的轻量级设备又无法满足使用需求。

从现实的情况来看,目前并没有一种“完美”的解决方案,主流厂商们试图在二者中找平衡,当下市场上存在着两类主流的解决方案:一种是以苹果为代表的显示计算一体,电池外接的方案;另一种,则是以Rokid为代表的显示计算分体设计。

苹果一体化的设计,将两块micro-OLED屏幕、多个摄像头和传感器、扬声器等元件集成在一起,在显示效果、计算等方面效率更高,但同时也会增加机体本身重量,导致只能将电池外接。

而Rokid坚持的分体式设计,将佩戴性拉到了极致,对比Vision Pro 454g重量,76g的眼镜重量,几乎和普通眼镜没有差别;同时主机算力也可以不那么受空间资源限制,同时一定程度上避免散热带来的不适问题。

总的来说,分体式的路线可以做到眼镜的轻便和主机算力的双向极致发展,同时也更加灵活,算力的迭代和眼镜的技术路线可以异步进行。

Rokid Station Pro就是在分体式设计的基础上,进行了更高的算力升级,打造集计算、成像、通信等功能为一体的All in One终端,也是真正可以被称之为“生产力工具”的超级终端。

据光锥智能了解到,Rokid Station Pro 搭载了高通骁龙XR2+、12G RAM + 128G ROM, 支持WIFI6/6E和BT5.1,Station Pro续航能力将是手机方案的2倍以上,同时具有更佳的散热和更高性能,可以达到厘米级6DoF跟踪精度和极低MTP(Motion to Photon)渲染延迟。

公开信息显示,骁龙XR2+是高通推出最新旗舰的XR平台,能够实现50%的续航能力和30%的散热性能提升,从而支持更小更轻薄的设备外形中赋能更丰富和沉浸式的体验。同时骁龙 XR2 + 平台引入全新图像处理管线,能够实现低于 10 毫秒的时延,开启全彩视频透视 MR 体验。

从光锥智能在现场的体验来看,无论是观影、游戏过程中还是调用键盘进行工作生产流程,尤其是在游戏的高频交互和打斗下,画面的流畅度和反应速度,都十分丝滑。

值得一提的是,目前市场上核心算法还是3DoF(三自由度追踪),是指该设备能够检测到向上、前、下三个方向的转动,但不能检测到头部的前后左右的空间位移。

而升级后的Station Pro采用的6DoF算法,除了能检测到头部的转动带来的视野角度变化外,还能够检测到由于身体移动带来的“上下前后左右”6种位移的变化。

这个算法的升级,更重要的在于玩家的自由度。举个例子,3DoF算法下的打僵尸,射程范围在前方的一定角度,而升级后僵尸从360度出现,一回头身后僵尸扑面的体感,是前者无法达到的。

也就是说,不只算力更高、体验更丝滑、算力空间的拓展也带来了体感上的巨大不同。

高通技术公司XR产品管理高级总监Said Bakadir表示:“第一代骁龙XR2+平台是赋能下一代XR体验的不二之选。高通技术公司为Rokid Station Pro提供业界领先的平台,支持其打造了自身独特的AR应用生态系统。”

03 做AR行业中的iOS

当然,苹果手机之所以能在手机市场上常年称王称霸,成功的原因并不只于它的硬件,更在于它的系统和生态。通过软件系统来培养用户使用习惯所筑下的壁垒,往往要比硬件本身更牢固。

这是Rokid自研AR空间操作系统——YodaOS-Master的部分原因,但却不是全部的原因。

今年三月Rokid Open Day上,Rokid正式推出了YodaOS-Master,并发布了“AR空间创作平台灵境”,让每个人都能在3D空间内创作AR内容,人人可参与,彻底打破AR创作的门槛,让生态势能爆发。

如果说单目SLAM、3D手势识别、骁龙XR+、灵境平台都是一把把利刃,那YodaOS-Master,通过一套自研的系统,才能将这些绝招释放。

简单来说,Rokid 是在走一条没有人走过的路,而Rokid的理念是“软件定义一切”,所有的软件都需要系统进行承载和提供,才能发挥出价值。

围绕感知、理解、交互、展现、协同和数字创作五个方面,YodaOS-Master从芯片优化、硬件设计、软件架构、AR算法还有创作工具等诸多方面都做了巨大升级,或是目前最为完整的一套面向AR时代的空间操作系统。

发布会现场,Rokid也展示了自研系统带来的开放性和便捷性。举几个明显的例子,基于自研系统和骁龙XR+平台,Rokid开发了多任务并行模式,打破了之前只能单任务的掣肘,实现一边聊钉钉、一边写代码、一边看文档的场景,能够同时实现并充分的发挥了空间大屏的优势,让生产效率提升到最大。

另一个极为创新的案例是,Rokid基于自研系统,重新定义了空间搜索。祝铭明介绍道,这打破了此前搜索信息的陈列方式,搜索结果的呈现不再是二维的平面的效果,而是存在在三维空间中。“与问题最相关的结果会离你最近,有点相关的结果在二级页面,离的越远越不相关,当然,你也可以划掉前面的结果,动态挑选你想要的结果”。

如此,未来感瞬间拉满,也展示出了与第一阶段AR设备的本质不同。

可以看到, AR行业开放生态已经开始进入第二阶段,苹果和Rokid不仅在硬件方向上一个向左,一个向右,在行业系统软件、生态发展上也是如此。通过硬件、算法、软件生态、开发者和用户与平台共创,AR在一个彻底开放的生态下,会更快速的迈向高速发展的第二阶段。

Rokid系统研发总工程师石文峰表示,“YodaOS-Master操作系统通过服务化的方式,将 Rokid语音识别、手势识别、SLAM等在内的多项核心技术集成为系统服务,并提供多种client SDK供开发者高效开发,比如SDK for Unity,可以让Unity开发者(开发者申请通道:开放平台网址(ar.rokid.com))能够快速使用Rokid核心技术进行开发”。

从硬件到软件,从系统到生态,Rokid的发展路径,颇有点当年乔布斯时代苹果的意味。

“AR 行业就在黎明前”,祝铭明说道。

#rokid##AR#

欢迎关注光锥智能,获取更多科技前沿知识!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/101756.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

4.0 Spring与Dubbo整合原理与源码分析

#Dubbo# 文章介绍 Dubbo中propertie文件解析以及处理原理Dubbo中@Service注解解析以及处理原理Dubbo中@Reference注解解析以及处理原理1.0 整体架构和流程 应用启动类与配置 public class Application {public static void main(String[] args) throws Exception {Annotation…

《论文阅读21》Equivariant Multi-View Networks

一、论文 研究领域:计算机视觉 | 多视角数据处理中实现等变性论文:Equivariant Multi-View Networks ICCV 2019 论文链接视频链接 二、论文简述 在计算机视觉中,模型在不同视角下对数据(例如,点云、图像等&#xff0…

【C++笔记】C++之类与对象(下)

【C笔记】C之类与对象(下) 1、再看构造函数1.1、构造函数的初始化列表1.2、C支持单参数的构造函数的隐式类型转换1.3、匿名对象 2、Static成员2.1、为什么要有静态成员变量?2.2、一个类的静态成员变量属于这个类的所有对象2.3、静态成员函数 3、友元3.1、…

MPI之虚拟进程拓扑

什么是虚拟进程拓扑 在很多并行应用进程中,进程的线性排列不能充分的反映进程间在逻辑上的通信模型,通常由问题几何和所用的算法决定,进程经常被排列成二维或者三维网络形式的拓扑模型而通常用一个图来描述逻辑进程排列,此种逻辑…

SpringBoot入门篇3 - 整合junit、整合mybatis、基于SpringBoot实现ssm整合

目录 1.整合JUnit Spring整合JUnit SpringBoot整合JUnit 测试类注解:SpringBootTest 作用:设置JUnit加载的SpringBoot启动类 2.整合mybatis ①使用spring initializr初始化项目的时候,添加依赖。 ②设置数据源application.yml spring:d…

第 112 场 LeetCode 双周赛题解

A 判断通过操作能否让字符串相等 I s 1 s1 s1和 s 2 s2 s2第 1 1 1、 2 2 2位若同位置不等,则 s 1 s1 s1交换对应的 i i i和 j j j位置,之后判断 s 1 s1 s1和 s 2 s2 s2是否相当 class Solution { public:bool canBeEqual(string s1, string s2) {for (i…

低代码与低代码平台的概念解析

随着数字化转型和软件需求的不断增长,传统的手写代码开发方式已经无法满足迅速推出应用程序的需求。为了加快软件开发的速度并降低技术门槛,低代码开发模式应运而生。本文将介绍低代码的概念,探讨什么是低代码什么是低代码平台? 一…

8.react18并发模式与startTransition(搜索高亮思路)

React 18 之前,渲染是一个单一的,不间断的,同步的事务,一旦渲染开始,就不能被中断 React 18引入并发模式,它允许你将标记更新作为一个transitions,这会告诉React他们可以被中断执行.这样可以将紧急任务先更新,不紧急任务后更新. 将任务给紧急任务先执行, 优先级低的任务后执行…

JavaScript原型链污染

JavaScript原型链污染 一、什么是原型链污染(JS)二、前置知识2.1 JS对象2.11 通过类创建2.12 字面量模式创建2.13构造函数模式创建 2.2 默认属性 三、污染利用 一、什么是原型链污染(JS) 原型链污染(Prototype Pollution)是一种安全漏洞,在 …

零基础搭建个人影音媒体平台,实现远程访问Jellyfin播放器的简易方法

文章目录 1. 前言2. Jellyfin服务网站搭建2.1. Jellyfin下载和安装2.2. Jellyfin网页测试 3.本地网页发布3.1 cpolar的安装和注册3.2 Cpolar云端设置3.3 Cpolar本地设置 4.公网访问测试5. 结语 1. 前言 随着移动智能设备的普及,各种各样的使用需求也被开发出来&…

VBA中如何将if写到一行

在VBA中,可以使用以下两种方式来编写一行if语句: 使用三元运算符: Dim result As String result "Yes" If True Else "No"在这个例子中,如果条件为真,则result变量的值为"Yes"&#…

抖音小程序开发教学系列(1)- 抖音小程序简介

章节一:抖音小程序简介 1.1 抖音小程序的背景和概述 抖音小程序的发展背景和市场趋势: 抖音作为一款热门的短视频社交平台,用户群体庞大,社交共享的特性也为小程序的发展提供了广阔的空间。抖音小程序作为抖音在社交和用户粘性…

质谱技术对蛋白质进行鉴定

参考B站教学视频: 质谱如何鉴定蛋白质_哔哩哔哩_bilibili 针对该视频,别人的 笔记 质谱是一台体重秤,称的不是人,而是分子、原子的体重 不同分子有不同分子量是质谱仪工作的底层逻辑 图片来自:【蛋白组】蛋白质组定量技术的原理和…

HTML+JavaScript+CSS DIY 分隔条splitter

一、需求分析 现在电脑的屏幕越来越大,为了利用好宽屏,我们在设计系统UI时喜欢在左侧放个菜单或选项面板,在右边显示与菜单或选项对应的内容,两者之间用分隔条splitter来间隔,并可以通过拖动分隔条splitter来动态调研…

GaussDB数据库SQL系列-行列转换

一、前言 二、简述 1、行转列概念 2、列转行概念 三、GaussDB数据库的行列转行实验示例 1、行转列示例 1)创建实验表(行存表) 2)静态行转列 3)行转列(结果值:拼接式) 4&…

maven部署

一、下载Maven 地址:Maven – Download Apache Maven 二、解压缩,设置环境变量 tar -xvf apache-maven-3.8.8-bin.tar.gz export MAVEN_HOME/opt/apache-maven-3.8.8 export PATH$MAVEN_HOME/bin:$PATH echo $MAVEN_HOME echo $PATH mvn -v

Android AGP版本

做个记录: Android AGP版本 https://developer.android.com/studio/releases/gradle-plugin?hlzh-cn

mac idea启动没反应 无法启动

遇到的问题如下: 启动idea,没反应 无法启动,不论破解还是别的原因,总之无法启动了 应用程序–找到idea–右击显示包内容–Contents–MacOS–打开idea 弹出框提示如下: 双击这个idea可执行文件 1)先查看日志…

Kafka3.0.0版本——Leader故障处理细节原理

目录 一、服务器信息二、服务器基本信息及相关概念2.1、服务器基本信息2.2、LEO的概念2.3、HW的概念 三、Leader故障处理细节 一、服务器信息 三台服务器 原始服务器名称原始服务器ip节点centos7虚拟机1192.168.136.27broker0centos7虚拟机2192.168.136.28broker1centos7虚拟机…

docker安装grafana,prometheus,exporter以及springboot整合详细教程(GPE)

springboot项目ip:192.168.168.1 测试服务器ip:192.168.168.81 文章来自互联网,自己略微整理下,更容易上手,方便自己,方便大家 最终效果: node springboot 1.下载镜像 docker pull prom/node-exporter docker pull prom/mysqld-exporter docker pull google/cadvisor dock…