OrangePi AIpro 性能测试以及使用体验
1. 介绍
OrangePi AIpro(8T)采用昇腾AI技术路线。
- 具体为4核64位处理器+AI处理器，集成图形处理器，支持8TOPS AI算力
- 拥有8GB/16GB LPDDR4X，可以外接32GB/64GB/128GB/256GB eMMC模块，支持双4K高清输出。
Orange Pi AIpro引用了相当丰富的接口。
- 两个HDMI输出
- GPIO接口
- Type-C电源接口
- 支持SATA/NVMe SSD 2280的M.2插槽、
- TF插槽
- 千兆网口
- 两个USB3.0、一个USB Type-C 3.0、一个Micro USB（串口打印调试功能）
- 两个MIPI摄像头、一个MIPI屏
- 预留电池接口
可广泛适用于AI边缘计算、深度视觉学习及视频流AI分析、视频图像分析、自然语言处理、智能小车、机械臂、人工智能、无人机、云计算、AR/VR、智能安防、智能家居等领域，覆盖 AIoT各个行业。 OrangePi AIpro支持Ubuntu、openEuler操作系统，满足大多数AI算法原型验证、推理应用开发的需求。
2. 开箱
刚拿到OrangePi AIpro未拆开时，就感觉OrangePi AIpro这个重量不轻，自认为开发板应该是比较大的，但是当开箱时，发现它竟如此小巧，质感特别棒。
-
外观
-
特写
-
全家福
OrangePi AIpro的IO接口还兼容了树莓派接口，所以在从树莓派切换到OrangePi AIpro时是十分方便的。
OrangePi AIpro 官网还提供了丰富的资料：
-
详细的用户手册 可以让入门更容易
-
对于需要修改硬件的朋友，官方还提供了硬件原理图
-
丰富的官方工具，以及linux开源代码
3. 硬件
OrangePi Aipro正面图例
OrangePi Aipro背面图例
4. 性能测试
4.1 CoreMark
CoreMark是一种专门为嵌入式处理器设计的基准测试工具，由Embedded Microprocessor Benchmark Consortium (EEMBC) 开发。它的主要目的是为嵌入式系统提供一个标准化的性能评估方法，以便在不同处理器和平台之间进行客观、公正的比较。
主要特点
- 简洁高效：CoreMark代码量小，占用资源少，非常适合嵌入式系统的测试需求。
- 便携性强：使用标准的C语言编写，易于移植到各种处理器和平台上。
- 多维度测试：通过实现一系列典型的嵌入式系统操作来评估处理器性能，包括列表处理、矩阵操作、状态机操作和CRC计算。
- 标准化评分体系：提供了一套统一的评分标准，使得不同处理器的性能比较更具可比性和可信度。
4.1.1 测试
首先从github中下载CoreMark的源代码
# git clone https://github.com/eembc/coremark
我们来编译CoreMark, let’s go。
# make XCFLAGS="-DMULTITHREAD=4 -DUSE_PTHREAD -pthread"
OrangePi AIpro有4个cpu核心，使用4线程进行测试，测试结果如下
4个核心coremark分数累计为： 30618.493570
单核心分数为：7,654.6233925
4.1.2 对比
与树莓派对比：
从目前拿到的资料来看，我们没有准确的OrangePi AIpro的cpu 频率。但是我可以准确的说，OrangePi AIpro的cpu freq不会超过1.6GHz。我们按照最高1.6GHz的频率可以计算出CoreMark/MHz为19.14。成绩还是相当不错的。
参考资料
CoreMark Scores
4.2 sysbench
Sysbench是一个跨平台的基准测试工具，用于评估系统性能和稳定性。现在我们就用这个工具简单测试素数计算，OrangePi AIpro和我的主机电脑(AMD cpu 3600x)进行对比。。
命令为:sysbench --test=cpu --cpu-max-prime=10000 --num-threads=4 run
这是一个使用Sysbench进行CPU性能测试的命令，具体参数含义如下：
- –test=cpu：指定进行CPU性能测试。
- –cpu-max-prime=10000：指定在素数计算中使用的最大素数。在这种情况下，Sysbench将计算小于或等于10000的素数。
- –num-threads=4：指定测试时使用的线程数，这里设置为4个线程。
OrangePi AIpro结果：
AMD CPU 3600x结果：
从结果可以看出OrangePi AIpro更胜一筹。
4.3 DMIPS
DMIPS（Dhrystone MIPS）是用于衡量计算机处理器性能的一种基准测试指标。它基于Dhrystone基准测试程序，该程序由Reinhold P. Weicker在1984年开发，用于评估系统的整数运算性能。DMIPS将Dhrystone测试结果转换为一个更易理解的单位——每秒百万条指令（MIPS）。
主要特点：
- 整数运算为主：Dhrystone基准测试专注于整数运算性能，这对于评估嵌入式系统和一般用途处理器的效率非常重要。
- 历史悠久：作为一种经典的基准测试，Dhrystone在计算机科学和工程领域有着广泛的应用和认可。
- 转换为MIPS：Dhrystone结果通过一个标准的转换因子，转换为每秒百万条指令数（MIPS），方便不同处理器之间的性能比较。
计算公式：
Dhrystone的评分通常用DMIPS/MHz表示。计算公式如下
DMIPS/MHz = iteration/cycle*1000000/1757
关于DMIPS有一个不得不注意的点，因为历史原因我们把在VAX-11/780机器上的测试结果1757 Dhrystones/s定义为1 DMIPS，因此在其他平台测试到的每秒Dhrystones数应除以1757，才是真正的DMIPS数值，故DMIPS其实表示的是一个相对值。
4.3.1 测试
首先从github中下载dhrystone的源代码
# git clone https://github.com/Keith-S-Thompson/dhrystone.git
运行代码
# cd v2.2/ && sh dry.c
测试结果：
cc -c dry.c -o dry1.o
cc -c -DREG dry.c -o dry1.o
cc -c -O dry.c -o dry1.o
我们取最好的结果：14084507，根据计算公式，可以计算出DMIPS等于5.01。
4.3.2 对比
OrangePi AIpro的成绩相当不错了。可以参考下图
4.4 RAMspeed-SMP
用于测量和评估多处理器系统（SMP，Symmetric Multiprocessing）内存子系统性能的基准测试工具。它是RAMspeed系列的一部分，专门设计用于对称多处理器环境，以提供有关系统内存带宽和延迟的详细信息。
RAMspeed-SMP 的特点和功能
-
多处理器支持：能够有效地测试和分析多处理器系统的内存性能，适用于现代多核处理器架构。
-
多线程执行：利用多线程技术，通过并行运行多个线程来模拟高负载条件下的内存访问情况，从而更准确地评估内存性能。
-
多种测试模式
：
- 读取测试（Read）：测量内存读取操作的带宽。
- 写入测试（Write）：测量内存写入操作的带宽。
- 复制测试（Copy）：测量内存复制操作的带宽。
- 读写测试（Read-Write）：测量混合读写操作的带宽。
4.4.1 测试
首先从github中下载RAMspeed-SMP的源代码
# git clone https://github.com/cruvolo/ramspeed-smp
编译
# ./build.sh
测试结果：
下图为整型读写复制等的测试结果
下图为浮点数读写复制等的测试结果
4.4.2 对比
上图为我从openbenchmarking网站上截取的整型结果，对比可以看出OrangePi AIpro所以上乘水平。很不错。其他结果可以上openbenchmarking自行查看。
4.5 yolov5 测试用例使用
在OrangePi AIpro中提供了丰富的测试用例，如
- 运行目标检测样例
- 运行文字识别样例
- 运行目标分类样例
- 运行图像曝光增强样例
等等10多个用例。可以让新手快速体验每个用例的使用方法，还可以看到代码实例，方便快速入手和使用。
下面我们使用运行目标检测的样例来掩饰AI应用。
这里为了方便我们使用远程桌面登录OrangePi AIpro的桌面
在OrangePi AIpro的桌面中，打开Terminal
cd ~/sample/noteboots
./start_noteboot.sh
然后点击
http://127.0.0.1:8888/lab?token=989e405118bb6eae0ce13174063078a42bd0486a16d083d3
进入火狐浏览
点击01-yolov5,在点击man.inpynb
修改infer_mode=‘camera’ 则会使用外接的usb摄像头来使用。
或者修改video_path = ‘fei.mp4’。下面我展示重新上传频展示此次用例的情况。
然后点击运行
在使用此模型的时候，cpu使用率不高，说明很多是有NPU在处理器。功能很强大。
5.总结
OrangePi AIpro是一款单板计算机，主要用于人工智能应用。它的优点可以简单概述如下：
-
强大的性能：OrangePi AIpro配备了高性能的处理器和GPU，能够处理复杂的人工智能任务和计算密集型应用。
-
丰富的接口：它提供了丰富的接口，包括多个USB接口、网口、HDMI接口等，便于连接外部设备和扩展功能。
-
支持多种人工智能框架：OrangePi AIpro支持多种流行的人工智能框架，如TensorFlow、PyTorch等，方便开发人员进行模型训练和推理。
-
低功耗高效能：它采用了低功耗设计，能够在性能和能耗之间取得良好的平衡，适合于嵌入式和边缘计算场景。
-
灵活性：OrangePi AIpro是一款开源硬件，用户可以根据自己的需求进行定制和修改，满足各种不同应用场景的需求。
综上所述，OrangePi AIpro具有性能强大、接口丰富、支持多种人工智能框架、低功耗高效能以及灵活性高等优点，适合于各种人工智能应用和嵌入式系统开发。
6.其他
开启远程桌面
1.安装xfce4 xrdp tigervnc-standalone-server
sudo apt install xfce4 xrdp tigervnc-standalone-server
2.修改配置文件，添加红框里面这一句echo “xfce4-session” > ~/.xsession
在/etc/xrdp/startwm.sh文件末尾添加echo “xfce4-session” > ~/.xsession
3.启动xrdp
sudo systemctl start xrdp
4.设置xrdp随系统启动
sudo systemctl enable xrdp
5.设置任何用户都可以登录
sudo dpkg-reconfigure xserver-xorg-legacy
选择Anybody即可
最后我们打开windows系统的远程桌面连接
使用HwHiAiUser登录
等待成功的桌面：
添加用户
添加用户richard
sudo adduser --home /home/richard --shell /bin/bash richard
增加超级用户权限
sudo usermod -aG sudo richard
7.尽情期待
- OrangePi AIpro nas搭建
- OrangePi AIpro GPIO控制
- OrangePi AIpro 家庭远程视频控制
