Unite Shanghai 2024 团结引擎专场 | 团结引擎 OpenHarmony 工程剖析

在 2024 年 7 月 24 日的 Unite Shanghai 2024 团结引擎专场演讲中,Unity中国 OpenHarmony 技术负责人刘伟贤对团结引擎导出的 OpenHarmony 工程进行了细节剖析,详细讲解 XComponent 如何与引擎结合,UI 线程和引擎线程的关联以及 ts/ets 的代码如何与引擎功能进行交互。帮助大家在接入 SDK 以及 OpenHarmony 系统能力调用方面有更深入的了解。

刘伟贤:大家下午好!今天在这里带来的分享是《团结引擎 OpenHarmony 工程剖析》。我是刘伟贤,目前是 Unity中国 OpenHarmony 平台和车机平台的技术负责人。今天的内容一共四个部分:基本概念介绍、引擎画布-XComponent、引擎线程模型、引擎跨语言交互。

OpenHarmony 是一个全新的操作系统,其次这个系统本身在快速发展过程中,中间胶水层代码也在频繁变化,而且很多开发者对这个胶水层代码很不熟悉。因为原来的 Android 和 iOS 是有一定历史的,但是对于 OpenHarmony 来讲是全新的。所以,今天希望能通过概念和核心部分的讲解,让大家对于胶水层代码有更深入了解,从而看到 OpenHarmony 技术平台的一些技术细节。

基本概念

首先大家打开一个工程,切换到 OpenHarmony 这个平台,当我们在 BuildSettings 里面勾选 Export Project,我们就能得到一个 Ability Project,是 OpenHarmony 平台的一个原生工程,然后使用 Deveco Studio 打开这个 Ability Project,我们就能进行调试、构建等常规的操作。同时,通过 Export Project 也能窥探到所有引擎适配 OpenHarmony 的胶水代码。

首先,我们从一个项目的目录结构来窥探 Ability Project 整体的目录结构是怎么样的。开发态包结构(Stage 模型)分成 AppScope 跟 entry 这两个比较重要的目录,AppScope 是一个应用的全局配置,核心是 app.json5,去配置包名信息、版本号等。Entry 是一个模块,类似于 Android 工程的 module,但是里面会存有资源、ets 代码、ArkTS 代码、模块配置、一些配置项,还有应用级的配置信息、签名信息会在 build-profile.json5。

上面是一般 OpenHarmony Ability Project 开发包结构,但是与引擎相关的目录只有上图这些,比如说引擎所有的 so,包括要接入的 SDK 都会放到 entry/libs 目录中,引擎中所有的胶水代码都在 entry/main/ets 中,而胶水代码中还有一个关键的入口 TuanjiePlayerAbility,相当于安卓的 activity。还有 UIAbility 对应的 page 文件 TuanjiePlayerAbilityIndex.ets。除了这些以外,其他plugins代码也会自动导到这个地方。对于包内的资源,会放在 resources/rawfile/Data 中,包括 StreamingAssets, boot.config 等。这就是引擎在适配的时候,我们怎么样把引擎中的资源放到原生的 Ability Project 里面去。

上面这个图展示了在 OpenHarmony 的工程由开发态视图经过编译以后的包结构视图。可以看出刚才提到的 entry 实际上是一个 module,里面有一些 resource 和代码。我们有一个全局的 AppScope,中间可以扩展很多不同的 module。但是这里面与 Android 有一个比较大的差异,在于它的 module 实际上会编译成一个一个的 HAP,就像分成一个一个的小安装包,最终由一个 .app 把这些全部包起来。

所以说,从刚才怎么把引擎的东西放到项目中可以看出,目前引擎所有的东西都放在 entry 的 module 里面,意味着目前在 OpenHarmony 很难做到像原来安卓工程那种 uaal (use as a library) 的形式。如果要达到,我们应该把它抽象成一个自己的 module,大家可以把 module 拷出放到别的 OpenHarmony 原生应用里去集成、开发。我们后续可能会计划改成一个独立的 library 或者 module,会在后面的版本迭代掉。

我们有一个非常重要的主入口 TuanjiePlayerAbility,它类似于 Android 的 Activity。UIAbility 底下还有一个 WindowStage,它们在我们的整个胶水代码里是捆在一起的,主要做一些生命周期管理。最后有一个有别于 Android 的地方,叫做 ArkUIPage,主要做一些布局以及简单代码的实现。所以 UIAbility 组件是一种包含 UI 的应用组件,主要用于和用户交互。

在 OpenHarmony 里面, UIAbility 组件是系统调度的基本单元,为应用提供绘制界面的窗口。一个应用可以包含一个或多个 UIAbility 组件。例如,在支付应用中,可以将入口功能和收付款功能分别配置为独立的 UIAbility。每一个 UIAbility 也可以包含不同的 page,所以整体在切换上面还是相对比较灵活的。

对于开发者而言,可以根据具体场景选择单个还是多个 UIAbility,如果开发者希望在任务视图中看到一个任务,则建议使用一个 UIAbility,多个页面的方式。如果开发者希望在任务视图中看到多个任务,或者需要同时开启多个窗口,则建议使用多个 UIAbility 开发不同的模块功能。

每个 UIAbility 实例都会与一个 WindowStage 类实例绑定,该类起到了应用进程内窗口管理器的作用。它包含一个主窗口。也就是说 UIAbility 实例通过 WindowStage 持有了一个主窗口,该主窗口为 ArkUI 提供了绘制区域。

在 TuanjiePlayerAbility.ts 中,它整个生命周期就是 UIAbility 和 WindowStage 绑定在一起,UIAbility 实例创建完成之后,在进入 Foreground 之前,系统会创建一个 WindowStage。WindowStage 创建完成后会进入 onWindowStageCreate() 回调,可以在该回调中设置 UI 加载、设置 WindowStage 的事件订阅。

适配时,在 OnCreate 的时候我们主要是获取了 AbilityContext,用来做跨语言调用时需要的上下文。其次我们初始化 TuanjieMainWorker 线程。WindowStage 里面的OnForeground/onBackground对应的就是前后台切换,所以不管是OnForeground/onBackground,包括 WindowStage 的 Shown/Hidden 都会执行到引擎的 onResume/onPause。在 WindowStage 中的 Active 和 InActive 就是对应引擎的焦点获取 Focus/LostFocus。

TuanjiePlayerAbility 对应 TuanjiePlayerAbilityIndex.ets,对应的是基于 ArkUI 的声明范式的一个文件,它是方舟开发框架下的一套开发极简、高性能、支持跨设备的 UI 开发框架,包含了 ArkTS(eTS) 、布局、组件、交互事件。从上图右侧的 TuanjiePlayer 可以看到整个简单、清晰的结构。

接下来我们详细剖析 TuanjiePlayerAbility 里面对应的 page 中的内容。首先,上面是装饰器,有自定义组件 TuanjiePlayer,有点类似 Android 里面也有一个 UnityPlayer.java 的 component。其次,在 TuanjiePlayer component 中包含了一些布局信息,内置了 Xcomponent,就是我们引擎最后用来绘制的画布,要从 Xcomponent 拿到 surface,引擎用于绘制。在 Xcomponent 里面还会扩展一些事件方法,然后对应一些 log 输出,包括属性设置、宽高。

下面还可以看到我们自己定义的 TuanjiePlayer component 整个层级结构是怎么样的:一个 Xcomponent,盖着 TuanjieWebview,再盖着 SlapshScreen,再盖着 VideoPlayer,这些都像 stack 一样一层一层叠加上面,通过状态控制显示还是隐藏。所以这里面就是我们自己定义的一些控件,底下是一些属性方法。从整体文件可以看出,它的 ArkUI 写法非常舒适,可以一目了然地看到整个页面的布局、事件、属性是怎么样的。

TuanjiePlayerAbility.ts/TuanjiePlayerAbilityIndex.ets,这里面有两个文件的后缀,大家要了解 ts 代表 TypeScript,ets 代表 extented TypeScript(ArkTS 语言)。ArkTS 是 OpenHarmony 的主力应用开发语言。ArkTS 围绕应用开发在 TypeScript 生态基础上做了进一步扩展,后缀为 ets,它保持了 TS 的基本风格,在 TypeScript 的基础上扩展了声明式 UI、状态管理等相应的能力。同时通过规范定义强化开发期静态检查和分析,提升程序执行稳定性和性能。TS 是 JavaScript(简称 JS)的超集,eTS 则是 TS 的超集。从 eTS 我们可以看一些特点,包括强制使用静态类型、禁止在运行时改变对象布局、限制运算符语义、不支持 Structural typing,去掉原本动态语言的一些特性,加了一些限制,能够达到更好的编译优化,从而把整个运行的性能提升上去。

引擎画布 - Xcomponent

Xcomponent 是 OpenHarmony 提供的一个非常重要的组件,主要用来进行 EGL/OpenGLES 和媒体数据写入,并将其显示在 XComponent 组件上。它有 surface/component/texture 类型,目前团结引擎使用的是 surface 类型。同时 XComponent 组件可以和其他组件一起进行布局和渲染。我们整个 TuanjiePlayer 中除了 Xomponent 之外还叠加了一些自定义组件在上面。开发者可将相关数据传入 XComponent 单独拥有 NativeWindow 来渲染画面。

Native XComponent 是 XComponent 组件提供在 Native 层的实例,可作为 JS 层和 Native 层 XComponent 绑定的桥梁。通过 XComponet 的 libraryname,指明 so 名字,这时候就会到 C++ 层,可以在 C++ 层通过 napi 去获取 OH_NativeXComponent,然后并且注册事件回调,得到最终用来渲染的 NativeWindow。

所以从整体渲染模型来讲,我们其实在 XComponent 回调获得 NativeWindow,使用 NativeWindow 来创建 EGL/OpenGLES 环境,也满足和安卓类似的生产者-消费者模型。从上图可以看出,引擎这一层如果是一个相对原生的 OpenHarmony 应用,原生组件会走到一个渲染服务中,经过 skia 最终进行 GLES/EGL 调用。如果是自绘制的应用,基本是经过 Xcomponent 直接调用到 OpenGLES 的这些绘制指令上面去。

引擎线程模型

从整个目录结构、怎么样把引擎所要的东西合进 Ability Project,到引擎需要拿到怎么样的画布进行渲染,下一步就是引擎在 OpenHarmony 上的线程模型是怎么样的。对于所有的应用来说,我们都不希望耗时操作会对我们的 UI 交互造成卡顿,在 OpenHarmony 上也一样,我们不会把引擎和 UI 放在同一条线程上面。

TuanjiePlayer Ability 起来的时候,它有一条 ArkUI 线程,即传统意义上的 UI 线程,我们通过 threadWorker 创建一条 TuanjieMain 线程,放到 C++ 那边去,走引擎的正式启动流程。这条 TuanjieMain 线程才会再去把渲染线程、JobWoker 线程,以及脚本中会调用的 C# 线程创建出来。

在这里面,ArkUI 线程可以说是 UI 线程,主要执行 UI 绘制,管理主线程的 ArkTS 引擎实例,使多个 UIAbility 组件能够运行在其之上。同时也可以管理其他线程的 ArkTS 引擎实例,例如启动和终止 Worker 线程,处理应用代码的回调,包括事件处理和生命周期管理。

对于 Worker 线程 - TuanjieMain,它是引擎的主线程,用于执行耗时操作,支持线程间通信,因为我们有一些 UI 操作要回到主线程 UI 线程执行。但是这里面有一个非常重要的点,Worker 的上下文对象和主线程的上下文对象是不同的,一定要小心,而且 Worker 线程不支持 UI 操作,意味着 TuanjieMain 线程不能进行任何 UI 操作,必须 post message 回到 UI 线程进行 UI 相关操作。

下面看一下整个引擎在 Worker 线程的初始化。

UIAbility.ts 在 OnCreate的时候,会传递 AbilityContext,并且初始化 TuanjieMainWorker。TuanjieMainWorker 的初始化调用到 TuanjieMainWorker.getInstance,它是一个单例,此时会调用到构造方法,会去创建一个 threadWorker。threadWorker 整个线程的运行环境就在 TuanjieMainWorkerHandler.ts。所以从这里看到,不管是 ArkUI 还是 Worker 线程,在 OpenHarmony 都挺特别的,都分成两个文件,没有合到一起去。

当我们 new 好 Worker thread 的时候,TuanjieMainWorkerHandler.ts 文件内所执行的代码已经是在 Worker 线程,这时候我们就会通过 tuanjie.nativeSetWorker() 调用 C++,从而注册 libuv 的回调,从而作为引擎 Loop,然后再循环。

关于 ArkUI 线程与 TuanjieMain 线程的交互,大家一定要注意 ArkUI 线程消息处理是在 threadWorker.onmessage;TuanjieMain 线程消息处理要去找到 workerPort.onmessage。如果从 ArkUI 线程发消息到 TuanjieMain 线程,需要 threadWorker.postMessage;反过来 TuanjieMain 线程到 ArkUI 线程是 workerPort.postMessage。线程之间的交互基本就是通过 postMessage 去处理,消息的接收也是通过 onMessage 的回调进行处理。

在 Worker 里面有比较多的注意事项:

  1. Worker 创建后需要手动管理生命周期,且 TS 里面最多同时运行的 Worker 子线程数量为 8 个;

  2. 由于不同线程中上下文对象是不同的,因此 Worker 线程只能使用线程安全的库;

  3. 因为线程之间只能通过 postMessage 进行交互,序列化传输的数据量大小限制为 16MB;

  4. 使用 Worker 模块时,需要在主线程中注册 onerror 接口,否则当 worker 线程出现异常时会发生 jscrash 问题。

引擎跨语言交互

引擎跨语言交互部分,首先 OH 使用 Node-API 实现跨语言交互。在 ArkTs/JS 侧只需要 import 一个对应的 so 库后,即可调用 C++ 方法。我们只需要在 TS 代码中 import tuanjie from ‘libtuanjie.so'; 然后调用 tuanjie.nativeOnResume(),是让引擎从后台回前台的接口。nativeOnResume 就会 call 到 C,C 侧的实现则是通过 RegisterModule 把 napi 的 module 丢到 TS,并且 module name 叫 tuanjie。里面有一个 register function 叫 JSI_onLoad。

右侧展示所有的这些代码就是我们把 C++ 接口暴露到 TS 接口的 API,我们绝大多数接口都是用 Native 开头的。如果大家在操作 TS 代码的时候,想知道哪些会调用到 C++ 内层去,只需要知道 Native 开头的基本都是调到 C++ 里面去。其中可能会有一些特别的如 Tuanjie.SendMessage,是为了和原来的 Unity.SendMessage 保持一致,没有把 Native 放在前面。

C++ 与 TS 是通过 Node-API 进行交互的,接下来如果要使用 C# 怎么进行 TS 的交互呢?首先 C# 调用 TS 接口,我们提供了很多的 OpenHarmony 的 js object, js class 等等 C# 接口,这些接口的执行都是在 TuanjieMain 线程里面的。当我们在 C# 中调用我们提供的 OpenHarmony js object 的接口时,它是从 C# 的 API 到了 C++ 内层,就会经过 Node-API,再到 TS API。

如果从 TS 调用 C# 接口,我们通过 import tuanjie from ‘libtuanjie.so' 直接调用 tuanjie.TuanjieSendMessage()TS 把信息发送到 C# 端。实际上是在 C++ 里面导出了 tuanjie.TuanjieSendMessage 的接口到 TS 层,从 C++ 回到 scripting的API,再回到 C#。需要注意的一点是,目前 C# call TS 目前所有的执行都还在 TuanjieMain 线程里面,但是如果是 TS 调用 C# 接口可以在任意线程,因为 TuanjieSendMessage 是线程安全的,会把来自不同线程的消息先放在消息堆中,等引擎每一个 loop 在走的时候才会把消息拿出来进行处理。

以上是我对 OpenHarmony 工程的分析,希望大家从今天的分享中可以了解引擎整体目录是什么样的、整个线程之间是怎样的关系,特别是在做 C# 和 TS 交互的时候,大家一定要注意线程之间交互的区别。

今天的分享就到这里,谢谢大家!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/891181.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

PostgreSQL学习笔记六:模式SCHEMA

模式(Schema) PostgreSQL中的模式(Schema)是一个命名的数据库对象集合,包括表、视图、索引、数据类型、函数、存储过程和操作符等。模式的主要作用是组织和命名空间数据库对象,使得同一个数据库中可以包含…

Linux命令——ls

命令格式:命令本身选项命令的指向目标 1.ls命令作用为列出目录下的内容 #lls后的选项有[-a,-l,-h]##注意ls与选项间应用空格隔开. 如下图为(ls命令体-l选项/根文件)的命令行 # ls -a 为:列出所有文件(包括隐藏文件&…

mysql 慢查询日志slowlog

慢查询参数 slow log 输出示例 # Time: 2024-08-08T22:39:12.80425308:00 #查询结束时间戳 # UserHost: root[root] localhost [] Id: 83 # Query_time: 2.331306 Lock_time: 0.000003 Rows_sent: 9762500 Rows_examined: 6250 SET timestamp1723127950; select *…

接口性能测试,这个还真有用啊。

一、概述 性能测试按照不同视角,可以分为以下几类: a. 用户视角的性能 用户角度感受到的网站响应速度的快和慢。从用户在浏览器输入网址/打开应用,到整个页面呈现给用户的耗时。包含了用户端发送请求,服务端收到并执行请求&…

【2024版】Pycharm安装教程+汉化教程(零基础小白都能学会)

PyCharm安装教程 点击右边链接→PyCharm安装包 以专业版为例,继续进行安装(安装内容没啥太大区别,所以两版本都适用) 2.打开解压后的文件夹,右击pycharm 2024.1.4 3.点击下一步。 4.更改安装位置,点击下一步…

海外云手机:出海电商养号智能化方案

随着出海电商的迅猛发展,使用海外云手机进行养号已经成为越来越多商家的新选择。尤其在社交电商推广和短视频引流方面,海外云手机不仅提高了流量的精准度,还助力商家实现业务的快速增长。本文将探讨海外云手机养号相较于传统模式的优势&#…

机载交互详解!

一、机载交互网络 机载交互网络是指飞机内部用于传输飞行员指令、飞行数据以及系统状态信息的通信网络。它通常由多个节点(如传感器、控制器、显示器等)和连接这些节点的通信链路组成。 节点: 传感器节点:负责采集飞机的各种飞…

基于YOLOv11的车辆行人实时检测系统(python+pyside6界面+系统源码+可训练的数据集+也完成的训练模型)

上百种【基于YOLOv8/v10/v11的目标检测系统】目录(pythonpyside6界面系统源码可训练的数据集也完成的训练模型)-CSDN博客 ............................................................................................ 摘要: 本文提出了…

人工智能AI与机器学习ML基础入门

小学生都能看懂的人工智能入门书籍 第一章 入门简介 TensorFlow 入门 如果你想入门人工智能(AI)?机器学习(ML)和深度学习是很好的起点。不过,一开始接触这些概念时,可能会被各种选项和新术语搞…

WebGl 使用uniform变量动态修改点的颜色

在WebGL中,uniform变量用于在顶点着色器和片元着色器之间传递全局状态信息,这些信息在渲染过程中不会随着顶点的变化而变化。uniform变量可以用来设置变换矩阵、光照参数、材料属性等。由于它们在整个渲染过程中共享,因此可以被所有使用该着色…

前端开发攻略---使用AJAX监控网络请求进度

1、XHR实现 <!DOCTYPE html> <html lang"en"><head><meta charset"UTF-8" /><meta name"viewport" content"widthdevice-width, initial-scale1.0" /><title>Document</title></head&…

用AI生成rtl设计(a simple synchronous FIFO)的一个实验

目录 1. 前言 2. RTL and testbench generation 2.1 RTL generation Explanation: Assumptions: 2.2 Testbench generation Explanation: 2.3 Add fsdb dump to testbench 3. 仿真与调试 3.1 RTL中的语法问题 3.2 testbench的问题 3.3 RTL中empty/full状态…

VS Code创建VUE项目(一)工具安装与项目创建

一.安装与配置npm 1.下载安装Node.js 安装Node.js 下载地址&#xff1a; Node.js — 在任何地方运行 JavaScript (nodejs.org)或下载 | Node.js 中文网 下载后一步步安装就好&#xff08;安装过程基本一路直接“NEXT”就可以了&#xff0c;直到Finished&#xff09;&#x…

第十五届蓝桥杯C/C++学B组(解)

1.握手问题 解题思路一 数学方法 50个人互相握手 &#xff08;491&#xff09;*49/2 &#xff0c;减去7个人没有互相握手&#xff08;61&#xff09;*6/2 答案&#xff1a;1024 解题思路二 思路&#xff1a; 模拟 将50个人从1到50标号&#xff0c;对于每两个人之间只握一…

内嵌服务器Netty Http Server

内嵌式服务器不需要我们单独部署&#xff0c;列如SpringBoot默认内嵌服务器Tomcat,它运行在服务内部。使用Netty 编写一个 Http 服务器的程序&#xff0c;类似SpringMvc处理http请求那样。举例&#xff1a;xxl-job项目的核心包没有SpringMvc的Controller层&#xff0c;客户端却…

李德仁院士携实验室及大势文旅团队参加“湖北旅游、武当突破”名家谈,分享数智文旅发展新经验

10月12日上午&#xff0c;2024世界武当太极大会在湖北省十堰市武当山盛大开幕。 2023年国家科学技术最高奖获得者、中国科学院、中国工程院院士、武汉大学李德仁教授携测绘遥感信息工程国家重点实验室&#xff08;后简称“实验室”&#xff09;团队以及大势智慧文旅团队&#…

gcc学习

理论 在使用 GCC (GNU Compiler Collection) 进行 C 或 C 程序的编译时&#xff0c;可以将整个过程分为四个主要阶段&#xff1a;预处理、编译、汇编和链接。下面是每个阶段的命令示例&#xff1a; 1. 预处理-E 预处理阶段会处理所有的预处理指令&#xff08;如 #include 和…

Qt消息对话框

问题对话框 对应API [static] QMessageBox::StandardButton QMessageBox::question( QWidget *parent, const QString &title, const QString &text, QMessageBox::StandardButtons buttons StandardButtons(Yes | No), QMessageBox::StandardButton defaultButt…

「Java服务」快速接入SkyWalking方法指南

一、背景 背景&#xff1a;Apache SkyWalking 是一个开源的分布式应用性能监控&#xff08;APM&#xff09;系统&#xff0c;主要用于监控微服务、云原生和容器化应用的性能。接入SkyWalking可以排查以智能投放服务为主的服务响应问题 技术架构 SkyWalking 的核心架构包括以…

【开源物联网平台】Fastbee数据库持久层架构

目录 一&#xff0c;数据库持久层架构 二&#xff0c;数据库组件 2.1 Druid 2.2 MyBatis-Plus 2.3 dynamic-datasource 2.4 ShardingSphere 一&#xff0c;数据库持久层架构 二&#xff0c;数据库组件 2.1 Druid Druid是Java语言中最好的数据库连接池。Druid能够提供强…