安霸CVFlow推理开发笔记

一、安霸环境搭建:

1.远程172.20.62.13

2. 打开Virtualbox,所在目录:E:\Program Files\Oracle\VirtualBox

3. 配置好ubuntu18.04环境,Ubuntu密码:amba

4. 安装toolchain,解压Ambarella_Toolchain_CNNGen_2.3.0_20210205(注意要用最新版本)

5.进入Ubuntu-18.04安装包里,运行以下脚本ubuntuToolChain-2.3.0,提前配置好pip源

6. 默认路径为/usr/local,安装parser时按照需求选择,onnxparser caffeparser以及tensorflowparser

7.安装完成后,查看/usr/local/目录下新增amba toolchain

8.搭配环境,运行source搭配开发环境

9. 尝试shell自动补全,查看gen_image_list.py,layer_compare.py,onnxparser.py程序是否存在。存在则安装成功,反之失败。

二.安霸模型转换流程:

  1. 冻结和输出CNN网络模型的框架和权重
  2. 通过Python parser 运行模型,通过使用AmbaCNN API 来修建CNNGen中的节点图
  3. CNNGen将节点图扩展乘原始图并且进行量化和减少计算量
  4. VAS将原始图扩展乘算子图(DAG)并进行低等级优化和DAG分离
  5. 在ADES上运行VAS生成DAGs验证结果和准确性
  6. 用cavalry_gen脚本生成最终执行的二进制文件并用Ambaralla接口运行在CV2X板子上

三.模型转换工具使用:

1. 将图片数据转换成bin format

gen_image_list.py
         -f test_image/                                           //图片所在目录
         -o img_dara_list.txt                                     //输入的图片列表
         -ns                                                                     //禁用随机选择
         -e data                                                           //图片格式,新增data格式
         -c 1                                                                    //图片格式 1为BGR
        -d 0,0                                                               //转换格式undesigned fix8 1,2,07为float32
         -r 96 96                                                           //图像尺寸
         -bf dra_bin/                                                   //输出目录
         -bo dra_bin_list.txt                                       //输出文件列表

2. onnx模型转换

onnxparser.py
         -m ./face_align_float_20210301.onnx                             //模型的ONNX文件,包含纯模型
         -isrc                        
“is:1,3,96,96|iq|idf:0,0,0,0 |i:data=./dra_bin_list.txt”        //多参数输入
       -o face_align_amba                                                                //输出文件名
       -of ./module                                                                             //输出文件目录
       -c act-force-fx8,coeff-force-fx8                  //第一个代表输出是8bit,第二个表示权重为8bit 高效: act-force-fx8,coeff-force-fx8 高准确率 act-force-fx16,coeff-force-fx16,模型权重参数不支持float
       -odst “o:output|odf:fp32”                                                   //模型输出由”output”转fp32

3.编译VAS代码

cd module
vas –auto –summary –show-progress –dvi face_align_amba.vas //生成vas文件

4. layer_compare比较一致性

layer_compare.py onnx
–m ./face_align_float_20210301.onnx  //onnx文件目录
–isrc “is:1,3,96,96|iq|idf:0,0,0,0|i:data=./dra_image_bin/dra_bin_list.txt” //同onnxparser参数
–c act-force=fx16,coeff-force-fx16 //同onnxparser参数
–odst “o:output|odf:fp32” //同onnxparser参数
-n face_align_amba //vas文件名
-v module  //vas文件目录,一定要精确到vas_output目录
-o ./lc     //生成的结果比较文件.xsl

5.为了生成ADES command,为了在PC上模拟运行

ades_autogen.py
–v face_align_amba //vas文件名
–p ./                           //vas文件所在目录
-l ades_module   //输出文件目录
–ib data=/media/sf_Amba/data_bin/image_align_00001.bin //data:模型input层名称
-ob output=./out.bin  // output:模型输出层名称,out.bin输出文件名,以二进制文件存储

6.模拟运行.cmd

cd ades_moudle
ades face_align_amba_ades.cmd //执行程序,得到结果

7.编译CV code,生成可以在CV2x上运行的程序,生成模型文件face_align.bin

cavalry_gen
–d ./vas_output //目录精确到vas_output
–f face_align.bin //输出模型文件名
–p ./                   //输出模型文件目录
-V 2.1.7            //版本,要与板子上的版本一致

快速执行脚本sample里有quick_start.sh脚本,一个脚本完成上述所有操作,参考CNNGen_Development_Flow 7.2章节

./quick_start.sh
–f onnx                                        //模型转换方式,支持onnx caffe和trensorflow
–d /media/image_data/         //gen_image_list的图片文件目录
-m ./face_align_float_20210301.onnx  //onnx文件

四.Amba嵌入式运行

研发网访问【Amba-cv25开发板】和【广汽8155车机】方法:
1. 使用【mstsc】远程登录【Windows host主机 192.168.122.29】,【账户密码 都是自己的域账户】,允许多个账户同时登陆 各自用各位各自的域账户+密码登录就好:
admin/kuihu2/peihuang/ycjiang/ylxiang2
2. 打开xshell6,admin密码没有,直接回车。 amba的开发版的串口是com5 频率是115200,留意不要选错登到广汽的8155车机上 广汽8155车机的串口操作失误 比如敲一个exit就蓝屏了,留意不要串口登到广汽8155上面去
3. 但串口操作有一个问题就是:我用的时候你是用不了的。换句话说:如果黄培已经通过串口登录amba开发版了,那其他人就用不了,除非黄培主动断开连接。如果发现串口连接不上,大概率是别人在用,可以用别人的账号登一下 看谁在用,总共就这几个账号。

1.将amba挂在到windows上

umount /dev/mmcblk0p8
insmod /lib/modules/4.14.183/kernel/drivers/usb/gadget/udc/ambarella_udc.ko
insmod /lib/modules/$(uname -r)/kernel/drivers/usb/gadget/libcomposite.ko
insmod /lib/modules/$(uname -r)/kernel/drivers/usb/gadget/function/usb_f_mass_storage.ko
modprobe g_mass_storage removable=y stall=0 file=/dev/mmcblk0p8

2. 放入模型和数据,然后接触挂载 

modprobe -r g_mass_storage
mkdir /mnt/p8
mount /dev/mmcblk0p8 /mnt/p8

3.配置运行环境

modprobe cavalry
cavalry_load –f /lib/fireware/cavalry.bin -r

4.运行程序

test_nnctrl –b model.bin
--in <input_0_layer_name>=<input_0_bin>
--in <input_1_layer_name>=<input_1_bin>
--out <output_0_layer_name>=< output _0_bin>
--out < output _1_layer_name>=< output _1_bin>
-v  //打印debug信息
-e  //打印vp_time

五、踩坑记录:

1.Onnx版本错误,onnx要是6.0。用python3 import onnx print(onnx.__version__)queren

2.toolchain安装时,安装使用如下脚本ubuntuToolChain,不要用installToolChainONLY,同时提前配置好pip源

3.像素值(R,G,B) –平均值(RGB) / 方差值(R,G,B) 归一化操作要放到onnxpraser里面操作,否则会严重影响准确性

4.一致性结果不同层对不上关系不大,主要看最终输出是否能保持较小误差

5.模型仿真输出和amba板子上运行输出结果有些出入,因为硬件上需要32位对齐,读取的时候需要注意

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/750885.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

Android 大话binder通信 (下)

戳蓝字“牛晓伟”关注我哦&#xff01; 用心坚持输出易读、有趣、有深度、高质量、体系化的技术文章 前情提要 Android 大话binder通信 (上)主要介绍了矮挫丑进程一直暗恋白富美进程&#xff0c;遂发送情书给她&#xff0c;以表达对她的爱慕之情&#xff0c;而情书顺利的到达…

linux中awk,sed, grep使用(待补充)

《linux私房菜》这本书中将sed和awk一同归为行的修改这一点&#xff0c;虽然对&#xff0c;但不利于实际处理问题时的思考。因为这样的话&#xff0c;当我们实际处理问题时&#xff0c;遇到比如说统计文本打印内容时&#xff0c;我们选择sed还是awk进行处理呢&#xff1f; 也因…

什么类型的网站需要配置OV证书

目录 什么网站更适合OV证书&#xff1a; 申请OV需要注意&#xff1a; 申请单位组织验证型OV SSL证书的详细步骤 OV SSL证书全称Organization Validation SSL(组织验证性SSL证书)&#xff0c;是一种需要验证网站真实身份的数字证书。通过证书颁发机构审查网站企业身份和域名所…

单例模式(下)

文章目录 文章介绍步骤安排及单例讲解step1&#xff1a;注册单例类型&#xff08;main.cpp&#xff09;step2&#xff1a;定义类和私有构造函数&#xff08;keyboardinputmanager.h&#xff09;step3:&#xff08;keyboardinputmanager.cpp&#xff09;step4&#xff1a;在qml中…

springboot 缓存框架Cache整合redis组成二级缓存

springboot 缓存框架Cache整合redis组成二级缓存 项目性能优化的解决方案除开硬件外的方案无非就是优化sql&#xff0c;减少sql 的执行时间&#xff0c;合理运用缓存让同样的请求和数据库之间的连接尽量减少&#xff0c;内存的处理速度肯定比直接查询数据库来的要快一些。今天就…

临时挂载字体文件工具

一、简介 1、FontLoader是一款专为字体管理和快速加载设计的工具&#xff0c;它能够在不占用系统资源的情况下&#xff0c;实现字体的临时加载和快速切换。用户可以将字体文件存放在系统之外的硬盘分区&#xff0c;并通过FontLoader直接从内存中加载这些字体&#xff0c;从而避…

Nginx安装部署

简介 Nginx (engine x) 是一个高性能的HTTP和反向代理web服务器&#xff0c;同时也提供了IMAP/POP3/SMTP服务。 同Tomcat一样&#xff0c;Nginx可以托管用户编写的WEB应用程序成为可访问的网页服务&#xff0c;同时也可以作为流量代理服务器&#xff0c;控制流量的中转。 Ngi…

【MySQL】架构体系概览

本文使用的MySQL版本是8.0 MySQL架构 ​MySQL架构整体由外部程序和MySQL服务器构成。其中内部服务器分成连接层&#xff0c;服务层&#xff0c;服务管理和公共组件&#xff0c;存储引擎层和文件系统层。 连接层 连接层的作用是处理客户端的连接。 网络端口 一台MySQL服务器…

java项目部署工具

Java Web项目部署文档 需要工具 idea\eclipse、node.js(vue部分需要)、mysql、jdk1.8 1. 准备工作 &#xff08;1&#xff09;安装jdk 下载地址: jdk1.8下载 一直下一步 安装成功后配置环境变量 默认jdk安装在C:\Program Files\Java\jdk1.8.0_202\ 在Path路径添加:%JAVA_HOME…

mq需要知道的点

一、为什么要使用mq 解耦、异步、削峰 二、mq 有什么优缺点 优点就是在特殊场景下有其对应的好处&#xff0c;解耦、异步、削峰。 缺点有以下几个&#xff1a; 系统可用性降低 系统引入的外部依赖越多&#xff0c;越容易挂掉。万一 MQ 挂了&#xff0c;MQ 一挂&#xff0c…

Jetpack - Navigation: 一个全面的安卓开发指南

引言 导航是任何安卓应用程序中至关重要的部分。无缝地在不同的屏幕之间移动并传递数据&#xff0c;对于流畅的用户体验来说至关重要。在这篇博客中&#xff0c;我们将深入探讨Jetpack的Navigation组件&#xff0c;这个强大的框架旨在简化安卓应用中的导航。我们将涵盖从设置和…

应急响应靶机-Linux(1)

前言 本次应急响应靶机采用的是知攻善防实验室的Linux-1应急响应靶机 靶机下载地址为&#xff1a; https://pan.quark.cn/s/4b6dffd0c51a 相关账户密码&#xff1a; defend/defend root/defend 解题 第一题-攻击者的IP地址 先找到的三个flag&#xff0c;最后才找的ip地址 所…

openinstall拥抱鸿蒙生态,SDK全面适配HarmonyOS NEXT

作为国内领先的App渠道统计与深度链接服务商&#xff0c;openinstall持续推动鸿蒙生态建设&#xff0c;近日正式发布openinstall HarmonyOS SDK&#xff0c;并成功入驻鸿蒙生态伙伴SDK专区&#xff0c;成为华为鸿蒙生态的合作伙伴&#xff0c;为鸿蒙应用开发者带来安全合规、高…

C语言的内存知识

这节我们主要认识一下内存&#xff0c;便于理解指针操作和后续内存管理。 一、内存分区模型 C程序在执行时&#xff0c;将内存大方向划分为4个区域 &#xff08;可以结合函数小节的函数栈帧部分看一下&#xff09; ⚪ 代码区:存放函数体的二进制代码&#xff0c;由操作系统进…

Java | Leetcode Java题解之第174题地下城游戏

题目&#xff1a; 题解&#xff1a; class Solution {public int calculateMinimumHP(int[][] dungeon) {int n dungeon.length, m dungeon[0].length;int[][] dp new int[n 1][m 1];for (int i 0; i < n; i) {Arrays.fill(dp[i], Integer.MAX_VALUE);}dp[n][m - 1] …

HarmonyOS ArkUi Tabs+TabContent+List实现tab吸顶功能

Demo效果 Entry Component struct StickyNestedScroll {State message: string Hello WorldState arr: number[] []scroller new Scroller()StyleslistCard() {.backgroundColor(Color.White).height(72).width("100%").borderRadius(12)}build() {Scroll(this.sc…

火山引擎ByteHouse:新一代云数仓必不可少的五大核心能力

从数据库领域的发展历程来看&#xff0c;分析型数据库已有 40 多年的发展历史&#xff0c;与数据库基本同时代。从OLTP 和 OLAP 的分支来看&#xff0c;分析型数据库支持了海量数据规模下的聚合性分析。尤其是随着移动互联网甚至 AI 等领域的发展&#xff0c;用户画像行为分析的…

AFLNet入门教学——测试RTSP协议实现Live555(Ubuntu)

1、简介 本文旨在使用AFLNet对RTSP协议实现Live555进行模糊测试。实验环境为&#xff1a;Ubuntu22.04.4AFLNet安装参考&#xff1a;AFLNet入门教学——安装&#xff08;Ubuntu22.04.4&#xff09;-CSDN博客 2、安装Live555 本次实验采取的是live555在2018年8月28日上传的版本…

【应届应知应会】Linux常用指令

SueWakeup 个人主页&#xff1a;SueWakeup 系列专栏&#xff1a;学习技术栈 个性签名&#xff1a;保留赤子之心也许是种幸运吧 本文封面由 凯楠&#x1f4f8;友情提供 目录 文件与目录管理 目录操作命令&#xff1a; ls [选项] [目录或文件] mkdir 文件操作命令&#xf…

Django 如何使用视图动态输出 CSV 以及 PDF

Django 如何使用视图动态输出 CSV 以及 PDF 这一篇我们需要用到 python 的 csv 和 reportLab 库&#xff0c;通过django视图来定义输出我们需要的 csv 或者 pdf 文件。 csv文件 打开我们的视图文件 testsite/members/views.py 。新增一个视图方法&#xff1a; import csv …