EMT-LTR--学习任务间关系的多目标多任务优化

EMT-LTR–学习任务间关系的多目标多任务优化

title: Learning Task Relationships in Evolutionary Multitasking for Multiobjective Continuous Optimization

author: Zefeng Chen, Yuren Zhou, Xiaoyu He, and Jun Zhang.

journal: IEEE TRANSACTIONS ON CYBERNETICS (TCYB)

DOI:10.1109/TCYB.2020.3029176

code: GitHub - youle921/MultiTask

1.主要贡献:

​ 1)提出了一种学习任务间关系的多目标多任务优化算法(EMT-LTR);

​ 2)采用领域自适应技术将每个任务的决策空间视为一个流形,并将不同任务的所有决策空间联合建模为一个联合流形。

​ 3)将联合流形投影到隐层空间,同时保留所有任务的必要特征和每个流形的拓扑结构。

​ 4)任务关系表示为由多个映射函数组成的联合映射矩阵,学习到的任务关系用于进化过程中不同决策空间之间的信息传递。

2.问题提出:

​ 1)在MTO领域,利用任务间关系的研究很少。

​ 2)当任务数量特别多时,现有的研究通过学习任意两个任务间的映射关系的方式会很复杂。

​ 因此,如何联合建模所有任务之间的关系(而不仅仅是两个任务之间的关系)并有效地利用这些关系,是文章的研究目标。

3.EMT-LTR:

3.1 算法框架

​ 1)对于给定的 K K K个任务 T 1 , T 2 , . . . , T K T_1,T_2,...,T_K T1,T2,...,TK,设置采样集 S 1 , S 2 , . . . , S K S_1,S_2,...,S_K S1,S2,...,SK

​ 2)对这些采样集进行LTR,得到联合映射矩阵 M M M(不同任务间关系),它包含K个映射函数和一个隐层空间。

​ 3)接下来EMT-LTR的步骤跟MO-MFEA相同,不同的是MOMFEA是发生在统一搜索空间中,而EMT-LTR则是隐层空间。

​ 注意:在每一代中,从采样集中学习到的任务关系被用于子代产生和评估阶段,使用下一代种群的个体更新采样集。知识迁移是通过将来自其他任务的精英个体注入到当前任务或交配。

image-20240918091520810 image-20240918091631518

3.2 学习任务间关系(LTR)

​ LTR的总体想法:使用 K K K个采样集 S 1 , S 2 , . . . , S K S_1,S_2,...,S_K S1,S2,...,SK来学习 K K K个优化任务 T 1 , T 2 , . . . , T K T_1,T_2,...,T_K T1,T2,...,TK间的关系。先根据Pareto支配关系与不同目标函数之和两个准则将每个采样集 S k , k = 1 , 2 , . . . , K S_k,k=1,2,...,K Sk,k=1,2,...,K都分成如下四类(此处的分类方式并不唯一)。第一类:前50%非支配解;第二类:后50%非支配解;第三类:前50%支配解;第四类:后50%支配解。

​ 为了更真实地反映这些任务之间地关系,所构造地映射函数应该满足如下几个重要地属性:1)同一类样本点映射到隐层空间的相似位置;2)不同类样本点映射到隐层空间的不同位置且容易区分;3)每个样本集的拓扑结构也需要保留在隐层空间中。

​ 文章使用拉普拉斯矩阵来表示每一个流形(公式3和6),并以此来反映属性1和2;对于属性3,则使用了降维后的联合流形(公式11);并设计了一个包含三个子函数的损失函数。具体细节请查阅原文,LTR的算法伪代码如下所示。

image-20240918091822532

3.3 知识迁移

1)任务间的表示转换:

​ 如下图所示,假设 Ω a , Ω b \Omega_a,\Omega_b Ωa,Ωb是任务 T a , T b T_a,T_b Ta,Tb的决策空间,通过LTR构建映射函数 M a , M b M_a,M_b Ma,Mb。然后,从决策空间到隐层空间的映射可以通过如下规则执行:

X i ∈ Ω a X^i\in \Omega_a XiΩa在隐层空间的表示为 M a T X i M^T_aX^i MaTXi X j ∈ Ω b X^j\in \Omega_b XjΩb在隐层空间的表示为 M b T X j M^T_bX^j MbTXj.

​ 从隐层空间到决策空间的映射可以通过如下规则执行:

X i ∈ Ω a X^i\in \Omega_a XiΩa在隐层空间的表示为 ( M a M b + ) T X i {(M_aM_b^+)}^TX^i (MaMb+)TXi X j ∈ Ω b X^j\in \Omega_b XjΩb在隐层空间的表示为 ( M b M a + ) T X j {(M_bM_a^+)}^TX^j (MbMa+)TXj.

image-20240918153306758

2)任务间知识迁移:首先,从 T a T_a Ta的当前种群中选择一个非支配个体(位于 Ω a \Omega_a Ωa中);然后,通过上述的任务间转换将这个个体转换到 Ω b \Omega_b Ωb中。

​ 注意:从任务 T a T_a Ta中得到的这个转换个体可以注入到任务 T b T_b Tb中,也可以与 T b T_b Tb中的个体进行交配。

3.4 采样集更新

​ 1)预设定一个更新周期 u p up up来表示采样集更新的频率。

​ 2)当更新周期满足时,将任务 T k T_k Tk中通过环境选择保存到下一代种群的个体放入采样集 S k S_k Sk中。如果这些个体不足以填满 S k S_k Sk,则从之前的采样集 S k S_k Sk中随机选择个体补充到 S k S_k Sk中;如果这些个体数目超过了 S k S_k Sk,则随机删除某些个体直到 S k S_k Sk的大小为 S N k SN_k SNk.

4.思考

1)相比于其他直接使用领域自适应的MTO算法,EMT-LTR中提出了将所有任务的决策空间映射到隐层空间,并保留所有任务的必要特征和拓扑结构。假设我们可以通过某种方式找到相似任务,那么EMT-LTR则可以通过所建立的联合流形解决该迁移哪些个体的问题。

2)根据信息论的基础知识我们可以得到,领域自适应方式在映射的过程中会对原始任务造成一些信息损失,如何在保证映射的前提下,减少信息损失也是我们要考虑的一个问题,不仅是多任务优化领域,也包括迁移学习领域。而EMT-LTR则考虑了每个任务的必要特征和拓扑结构等信息,在一定程度上考虑到了映射后的信息损失。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/882056.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

240922-chromadb的基本使用

A. 背景介绍 ChromaDB 是一个较新的开源向量数据库,专为高效的嵌入存储和检索而设计。与其他向量数据库相比,ChromaDB 更加专注于轻量化、简单性和与机器学习模型的无缝集成。它的核心目标是帮助开发者轻松管理和使用高维嵌入向量,特别是与生…

【计算机网络 - 基础问题】每日 3 题(十八)

✍个人博客:Pandaconda-CSDN博客 📣专栏地址:http://t.csdnimg.cn/fYaBd 📚专栏简介:在这个专栏中,我将会分享 C 面试中常见的面试题给大家~ ❤️如果有收获的话,欢迎点赞👍收藏&…

通信工程学习:什么是NFV网络功能虚拟化

NFV:网络功能虚拟化 NFV(Network Function Virtualization),即网络功能虚拟化,是一种通过虚拟化技术实现网络功能的技术手段。它借鉴了x86服务器的架构,将传统的网络硬件设备如路由器、交换机、防火墙、负载…

华为eNSP使用详解

eNSP(Enterprise Network Simulation Platform)是华为提供的一款网络仿真平台,它允许用户在没有真实设备的情况下进行网络实验和学习网络技术。eNSP可以模拟各种网络设备,如交换机、路由器、防火墙等,并支持创建多种网…

【python】【绘制小程序】动态爱心绘制

背景介绍 参考链接:https://blog.csdn.net/Python_HUHU/article/details/139703289点的背景颜色在开始修改;文字的颜色在最后修改。文字内容可以修改。 python 代码 import tkinter as tk import random from math import sin, cos, pi, log from PIL…

VMware ESXi 8.0U3b macOS Unlocker OEM BIOS 2.7 集成网卡驱动和 NVMe 驱动 (集成驱动版)

VMware ESXi 8.0U3b macOS Unlocker & OEM BIOS 2.7 集成网卡驱动和 NVMe 驱动 (集成驱动版) 发布 ESXi 8.0U3 集成驱动版,在个人电脑上运行企业级工作负载 请访问原文链接:https://sysin.org/blog/vmware-esxi-8-u3-sysin/,查看最新版…

数字IC设计\FPGA 职位经典笔试面试整理--基础篇1

注: 资料都是基于网上一些博客分享和自己学习整理而成的 1:什么是同步逻辑和异步逻辑? 同步逻辑是时钟之间有固定的因果关系。异步逻辑是各时钟之间没有固定的因果关系。 同步时序 逻辑电路的特点:各触发器的时钟端全部连接在一…

基于机器学习的注意力缺陷/多动障碍 (ADHD)(python论文+代码)HYPERAKTIV

简述 医疗保健领域的机器学习研究往往缺乏完全可重复性和可比性所需的公共数据。由于患者相关数据附带的隐私问题和法律要求,数据集往往受到限制。因此,许多算法和模型发表在同一主题上,没有一个标准的基准。因此,本文提出了一个公…

【STM32】TIM定时器定时中断与定时器外部时钟的使用

TIM定时器定时中断与定时器外部时钟的使用 一、TIM定时器简介1、TIM(Timer)定时器2、定时器类型3、高级定时器4、通用定时器5、基本定时器6、定时中断基本结构代码编写:定时中断/外部时钟定时中断 7、预分频器时序8、计数器时序9、计数器无预…

Arthas dashboard(当前系统的实时数据面板)

文章目录 二、命令列表2.1 jvm相关命令2.1.1 dashboard(当前系统的实时数据面板) 二、命令列表 2.1 jvm相关命令 2.1.1 dashboard(当前系统的实时数据面板) 使用场景: 在 Arthas 中,dashboard 命令用于提…

旋转机械故障诊断 震动故障分析与诊断

旋转机械故障诊断 机理资料整理 电气故障,机械故障(不平衡,不对中,松动,轴承,共振,流体振动,皮带松动),低速与高速机器故障诊断等 旋转机械故障诊断:机理资料整理 目录…

音视频入门基础:AAC专题(10)——FFmpeg源码中计算AAC裸流每个packet的pts、dts、pts_time、dts_time的实现

音视频入门基础:AAC专题系列文章: 音视频入门基础:AAC专题(1)——AAC官方文档下载 音视频入门基础:AAC专题(2)——使用FFmpeg命令生成AAC裸流文件 音视频入门基础:AAC…

移动硬盘‘需格式化‘困境:原因剖析、恢复策略与预防之道

困境直击:移动硬盘为何需格式化才能访问? 在数字化时代,移动硬盘作为数据存储与传输的重要工具,其稳定性与可靠性直接关系到用户数据的安全。然而,不少用户在使用过程中遭遇了“移动硬盘需要格式化才能打开”的尴尬境…

Stable Diffusion 优秀博客转载

初版论文地址:https://arxiv.org/pdf/2112.10752 主要流程图: Latent Diffusion Models(LDMs) DDPM是"Denoising Diffusion Probabilistic Models"的缩写, 去噪扩散概率模型 博客: 【论文阅读…

【LeetCode】146. LRU缓存

1.题目 2.思想 3.代码 3.1 代码1 下面这是一版错误的代码。错误的原因在于逻辑不正确导致最后的代码也是不正确的。 class LRUCache:def __init__(self, capacity: int):self.time 0 # 用于全局记录访问的时间self.num2time {} # 数字到时间的映射self.key2val {} # 数字…

OpenCV特征检测(8)检测图像中圆形的函数HoughCircles()的使用

操作系统&#xff1a;ubuntu22.04 OpenCV版本&#xff1a;OpenCV4.9 IDE:Visual Studio Code 编程语言&#xff1a;C11 算法描述 在灰度图像中使用霍夫变换查找圆形。 该函数使用霍夫变换的一种修改版本在灰度图像中查找圆形。 例子&#xff1a; #include <opencv2/imgp…

对抗攻击的详细解析:原理、方法与挑战

对抗攻击的详细解析&#xff1a;原理、方法与挑战 对抗攻击&#xff08;Adversarial Attack&#xff09;是现代机器学习模型&#xff0c;尤其是深度学习模型中的一个关键安全问题。其本质在于&#xff0c;通过对输入数据添加精微的扰动&#xff0c;人类难以察觉这些扰动&#…

计算机网络:概述 --- 体系结构

目录 一. 体系结构总览 1.1 OSI七层协议体系结构 1.2 TCP/IP四层(或五层)模型结构 二. 数据传输过程 2.1 同网段传输 2.2 跨网段传输 三. 体系结构相关概念 3.1 实体 3.2 协议 3.3 服务 这里我们专门来讲一下计算机网络中的体系结构。其实我们之前…

前端组件库Element UI 的使用

一、准备工作 1.确保安装了开发软件 VS Code&#xff08;此处可查阅安装 VS Code教程&#xff09;&#xff0c;确保相关插件安装成功 2.安装Node.js 和创建Vue项目&#xff08;此处可查阅安装创建教程&#xff09; 3.成功在VS Code运行一个Vue项目&#xff08;此处可查阅运行…

Pybullet 安装过程

Pybullet 安装过程&#xff08;windows&#xff09; 1. 安装C编译工具2. 安装Pybullet 1. 安装C编译工具 pybullet 需要C编译套件&#xff0c;直接装之前检查下&#xff0c;要不会报缺少某版本MVSC的error&#xff0c;最好的方式是直接下载visual studio&#xff0c;直接按默认…