FOTS:一种用于机器人操作技能Sim2Real学习的快速光学触觉仿真器

类 GelSight的视触觉传感器具有高分辨率和低制造成本的优势,但是在与现实中的物体进行频繁接触时易受磨损。而触觉仿真器可大幅降低硬件成本,同时为后续技能学习任务提供仿真训练环境。为此,来自东南大学自动化学院的钱堃副教授研究团队和伦敦国王学院的Shan Luo副教授研究团队联合提出了一种快速光学触觉仿真器(Fast Optical Tactile Simulator, FOTS),用于模拟不同接触负载下的触觉光学和锚点运动场信息。论文发表于IEEE RAL,第一作者是东南大学自动化学院的硕士研究生赵永强。

论文的贡献主要有两个方面:一方面,使用多层感知器映射和平面阴影生成来模拟光学响应;另一方面,通过建模不同接触负载下的锚点分布函数来模拟由弹性体变形引起的锚点运动。仿真器现已开源,代码网址为https://github.com/Rancho-zhao/FOTS。

一、方法

下图为提出的快速视触觉仿真器FOTS的总体框架图,涉及到包括光学响应(包括光照和阴影)仿真和锚点运动仿真两个方面。

在这里插入图片描述

图1 FOTS总体框架图

(1)光照仿真:基于传感器涂层膜的反射光均匀分布、阴影仅取决于局部表面法线的假设,使用多层感知器(Multi-Layer Perceptron,MLP)通过将接触几何梯度映射到光照强度来模拟传感器的光学信号,即利用从一个触觉传感器的弹性体表面生成的高度图,能够根据每个点的表面法线推导出触觉图像的光照强度。下图为多层感知器的训练数据采集与触觉图像生成过程:

在这里插入图片描述

图2 使用MLP将几何梯度映射到图像光照强度

(2)阴影仿真:先前用于光学触觉传感器的阴影模拟方法要么依赖于物理引擎渲染,要么由于曲面计算而对非平坦传感器(如DIGIT)效率较低。为此,考虑基于现实世界中阴影产生的原理,使用平面阴影生成方法来消除平台依赖性并加快阴影模拟,该方法可以分别生成每个光源的阴影,且适用于不同触觉传感器中使用的点光源(如DIGIT)或者平行光源(如GelSight)。

在这里插入图片描述

图3点光源(a和b)和平行光源(c和d)下的阴影形成。(a)、(c)分别展示了不同光源下的平面阴影生成场景;(b)、(d)分别展示了如何通过不同时间的多个接触位置来确定光源的位置或方向

(3)锚点运动场仿真:通过建模锚点位移分布函数,来直接近似锚点运动与接触几何之间的关系,同时避免由于噪声或标定问题引起的误差。与需要精确的弹性体形变模型(如基于有限元分析FEM的方法)或者测量锚点位移的力/力矩信息的仿真方法相比,这种建模锚点位移分布函数的方法更高效,且对照明条件、弹性体材料等因素更具鲁棒性。如下图所示,考虑与法向(Normal)、切向(Shear)和扭转(Twist)负载相对应的三种类型的锚点运动,分别建模不同负载下的锚点位移分布函数,然后将它们组合起来模拟总体的锚点运动。
在这里插入图片描述

图4 不同负载下锚点运动模式

二、实验结果

实验结果表明,FOTS在图像生成质量和渲染速度方面优于其他方法,在CPU上实现了28.6fps的光学模拟和326.1fps的锚点运动模拟。光学仿真和锚点运动场仿真实验结果如下图:
在这里插入图片描述

图5 (a)针对DIGIT传感器,FOTS与其他仿真方法的比较;(b)不同压痕深度和位置的光学仿真结果;(c)方法应用到不同GelSight传感器上

在这里插入图片描述

图6 (a)DIGIT传感器的锚点运动场模拟结果;(b)GelSight传感器的锚点运动模拟,其标记布置不同于DIGIT传感器;(c) 锚点自身扭曲情况

三、触觉驱动的机器人操作技能Sim2Real学习

由于FOTS对触觉传感器的光学和机械响应的快速模拟能力,在触觉驱动操作任务中的Sim2Real迁移性能方面也表现出色。下图所示的框架是利用FOTS在仿真器中学习机器人插孔策略并Sim2Real迁移到实物域的结果。
在这里插入图片描述

图7 (a)Sim2Real策略学习与迁移框架(使用带有锚点的GelSight传感器);(b-d)长方体、圆柱体和六边形物体的现实实验示意图(包括相应的触觉锚点图像),蓝色框显示插入姿势调整,红色框显示插入尝试

四、结论与展望

论文提出一种快速光学触觉仿真器FOTS,使用多层感知器映射和平面阴影生成来模拟光学响应,同时应用锚点分布近似来模拟锚点的运动。该方法在快速生成触觉图像和触觉流的同时质量也达到了较高的精度。此外,FOTS在触觉驱动的插孔任务上也表现优异,并成功进行了Sim2Real迁移实验。然而,仿真与现实之间仍然存在差距,可将其归因于两个因素:1)难以完全模拟接触物体的物理特性;2) 该方法无法完全模拟锚点运动,例如在实际接触情况下常见的倾斜扭矩负载下的运动。未来可以将力/扭矩模块集成到仿真器中,以进一步减小视触觉传感器的Sim2Real域间差。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/623456.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

LeetCode---循环队列

循环队列就是只有固定的内存,存数据,出数据,但是也和队列一样,先进先出。如下图所示,这是他的样子 在head出,tail进,但是这个如果用数组解决的话,就有问题,力扣给我们的接…

宝塔Linux面板5.9版本升级新版失败解决方法

下载地址:宝塔Linux面板5.9升级教程 宝塔5.9版本升级最新版宝塔失败,可以参考这份详细教程(不断更新中) 安装要求: Python版本: 2.6/2.7(安装宝塔时会自动安装) 内存:1…

java生成图形验证码

java生成图形验证码 在写项目的时候登录的方式有多种多样,根据需求的不同,有些是用手机号获取验证码登录,有些是需要账号,密码 手机验证码登录,还有写是需要账号,密码 图形验证码登录,不论怎样…

【MySQL】sql表设计的注意事项

程序员的实用神器 文章目录 程序员的实用神器强烈推荐引言注意事项强烈推荐专栏集锦写在最后 强烈推荐 前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。点击跳转到网站:人工智能 推荐一个个人工作&#x…

机器学习案例:加州房产价格(四)

参考链接:https://hands1ml.apachecn.org/2/#_12 数据探索和可视化、发现规律 通过之前的工作,你只是快速查看了数据,对要处理的数据有了整体了解,现在的目标是更深的探索数据。 首先,保证你将测试集放在了一旁&…

数据库开发记录

一.MySQL相关 1.Spatial Data相关

AntDesign React 简单封装一个带错误提示的输入框

背景 没想到官方没有提供纯粹的带错误提示的输入框,官方提供了启用错误样式 status 属性。但是展示错误信息提示却需要捆绑Form 和 Form.Item。说实话有点不友好,我就一个简单的输入框,想要用户输入时用正则校验,错误时提示一些错…

电子硬件设计-LTC3839学习笔记

目录 1. 简介 2. 用法详解 2.1 工作原理 2.2 关键引脚分析 2.2.1 Pin6 - ITH 2.2.2 Pin 14/27 - BOOST1/2 3. 总结 1. 简介 具差分输出检测功能的快速、准确、两相、单路输出降压型 DC/DC 控制器。 特点: 输入:4.5V 至 38V,输出&am…

算法学习笔记(4)-基础排序算法

##O(n^2)算法时间复杂度的排序算法 目录 ##O(n^2)算法时间复杂度的排序算法 ##选择排序 ##原理 ##图例 ##代码实现示例 ##冒泡排序 ##原理 ##图例 ##代码实现示例 ##插入排序 ##原理 ##图例 ##代码实现示例 ##总结 ##选择排序 ##原理 在一个无序的数组或者列表…

使用Xshell工具连接ubuntu-方便快捷

使用Xshell连接ubuntu 在命令行输入 “sudo apt-get install openssh-server”安装openssh-server 开启 ssh-server,在命令行输入 “service ssh start”,然后输入密码即可

浅谈SiC MOSFET之双脉冲原理

1.双脉冲实验实验的必要性 在平常的使用中,我们基本通过芯片手册来了解功率器件的各种性能参数,但是手册中的参数的测量环境都是在理想状态下,与实际使用或多或少都会有差别。通过双脉冲实验可以获取器件在真实工况下的参数,对于产…

如何在创建之前检测 Elasticsearch 将使用哪个索引模板

作者:来自 Elastic Musab Dogan 概述 Elasticsearch 提供两种类型的索引模板:旧(legacy)索引模板和可组合 (composable) 索引模板。 Elasticsearch 7.8 中引入的可组合模板旨在替换旧模板,两者仍然可以在 Elasticsear…

ArcGIS软件损坏怎么修复?10.7分享

前言 我们经常ArcGIS用着用着就会出现一些莫名奇怪的情况,比如ArcGIS的工具箱都打,字体丢失等、dll文件缺失。尝试了很多方法之后没有效果的,我们可以对软件做修复 那么修复改如果做呢? 不需要卸载软件,直接安装deskt…

记录一下 log4j的漏洞

目录 背景 bug的产生 bug复现 JNDI 网络安全学习路线 (2024最新整理) 学习资料的推荐 1.视频教程 2.SRC技术文档&PDF书籍 3.大厂面试题 特别声明: 背景 log4j这次的bug,我相信大家都已经知道了,仅以…

【异常】SpringBoot整合RabbitMQ-发送消息报错

错误信息 reply-code406, reply-textPRECONDITION_FAILED - inequivalent arg ‘x-message-ttl’ for queue ‘hello-queue’ in vhost ‘/lq’: received none but current is the value ‘10000’ of type ‘signedint’, class-id50, method-id10 错误原因 hello-queue这…

【每日刷题】Day39

【每日刷题】Day39 🥕个人主页:开敲🍉 🔥所属专栏:每日刷题🍍 🌼文章目录🌼 1. 622. 设计循环队列 - 力扣(LeetCode) 2. 387. 字符串中的第一个唯一字符 - …

一觉醒来 AI科技圈发生的大小事儿 05月13日

📳博弈论让 AI 更加正确、高效,LLM 与自己竞争 研究团队设计了共识博弈,通过让语言模型的生成器和判别器相互博弈来提高模型的准确性和内部一致性。这种方法不需要对基础模型进行训练或修改,可以在笔记本电脑上快速执行。研究结果…

《云原生安全攻防》-- 构建云原生攻防场景

在本节课程中,我们将学习云原生攻防场景的构建。为了研究云原生安全攻击案例,我们需要搭建一个云原生攻击测试环境,以便进行攻防研究和攻击手法的复现。 在这个课程中,我们将学习以下内容: 构建云原生攻防场景&#xf…

绝地求生:艾伦格回归活动来了,持续近1个月,新版本皮肤、G币等奖励白嫖

嗨,我是闲游盒~ 29.2版本更新在即,新活动来啦!目前这个活动国内官方还没发,我就去台湾官方搬来了中文版方便大家观看,也分析一下这些奖励应该怎样才能获得。 新版本将在周二进行约9小时的停机维护,请注意安…

基于WTVxxx语音芯片方案在智能小家电领域的应用介绍

一、产品市场: WTVxxx系列语音芯片凭借其出色的性价比,在小家电制造业中脱颖而出,它在确保优异音质及全面功能的基础上,大幅度削减了生产成本,为产品在激烈的市场竞争中赢得了价格优势,并为制造商拓宽了盈利…