突破图神经网络技术瓶颈!新阶段3大创新方向大幅提高模型性能

针对传统的图神经网络在处理非结构化数据、捕捉高阶关系等方面的局限性,研究者们提出了众多优化方案。

这其中,超图神经网络、几何图神经网络、动态图神经网络作为GNN发展的前沿方向,不仅提供了更加丰富和灵活的方法来处理各种复杂的图数据,提高模型在特定领域的性能和应用范围,同时也在交叉领域有广泛的多元化应用。是我们做创新发论文的好方向。

本文介绍图神经网络这3大创新方向,每个方向都附有代表论文以及相应代码(共15篇),方便同学们理解学习以及复现。

论文原文以及代码需要的同学看文末

动态图神经网络

一种专门设计来处理随时间变化的图数据的深度学习模型。能够捕捉和分析图结构中的时间序列信息,对于理解和预测图的动态行为特别有用。在社交网络分析、交通预测、金融市场分析等多个领域都有广泛的应用。

代表论文1

FREEDYG: FREQUENCY ENHANCED CONTINUOUSTIME DYNAMIC GRAPH MODEL FOR LINK PREDICTION

方法:本文提出了一种名为FreeDyG的频率增强连续时间动态图模型,专为链接预测而设计。该方法包括一个新颖的频率增强MLP-Mixer层,能够有效捕捉频域中观察到的周期性时间模式和“shift”现象。同时,作者还引入了一个节点交互频率编码器,同时提取节点对之间的交互频率信息和共同邻居的比例信息。

创新点:

  • 频率增强的MLP-Mixer层:这是一种新颖的频率增强多层感知器混合(MLP-Mixer)层,能有效捕捉频域中观察到的周期性时间模式和“移位”现象。

  • 节点交互频率编码器:引入了一种节点交互频率编码器,可以同时提取节点对之间的交互频率信息和共同邻居比例的信息。通过在频域中进行更深入、更细致的交互模式提取,揭示了周期性和“移位”行为。

几何图神经网络

一类特殊的图神经网络,专门设计用于处理具有几何特性的图数据。其中群论、对称性和最小作用量原理是亮点。

这类网络能够捕捉到图结构中的几何和拓扑属性,在处理具有物理对称性的数据时更为有效,例如在平移、旋转和反射不变性方面的表现。

不变模型

代表论文1

ComENet: Towards Complete and Efficient Message Passing for 3D Molecular Graphs

方法:论文提出一种完整且高效的图神经网络ComENet来学习三维分子图。该方法通过全局和局部完整性实现了对三维信息的完整性保证,并且比现有方法快几个数量级。通过引入重要的旋转角度来实现全局完整性,并且提供了该方法完整性的严格证明。

创新点:

  • 提出了一种新的消息传递方案,用于在1-hop邻居内进行操作,以实现完全的3D信息。这种方法通过实现全局和局部的完整性来保证3D图形的完整性,尤其是通过引入重要的旋转角度来实现全局的完整性。

  • 设计了一种新的策略,以保证局部完整性,并且计算成本为O(nk)。通过将旋转角度整合到消息传递方案中,该方法可以在构象器级别上实现严格的完整性,并能够区分所有构象器。

等变模型

代表论文2

Learning Local Equivariant Representations for Large-Scale Atomistic Dynamics

方法:论文介绍了一种称为Allegro的新型深度学习相互作用势模型,它具有高精度、可扩展性和泛化能力。该模型结合了神经网络的高精度和局部描述符的可扩展性,能够适用于大型体系。Allegro模型使用严格局部的描述符和多层的深度神经网络,通过结合等变操作和严格局部描述符的优势,实现了高精度的能量和力的预测。

创新点:

  • Allegro是一种新型的深度学习原子间势能模型,通过学习等变表示的张量积来描述原子的能量和力,具有高度准确性和可扩展性。

  • Allegro可以准确地预测复杂系统的结构和动力学性质,并且在大规模并行计算中具有很高的效率。

  • Allegro的设计结合了张量积运算、等变神经网络和局部描述符等创新思想,突破了传统消息传递方法的局限性,展示出了高度准确和可扩展的潜力。

几何图transformer

代表论文3

Equivariant Pretrained Transformer for Unified Geometric Learning on Multi-Domain 3D Molecules

方法:使用等变Transformer模型EPT进行预训练,在多个领域的三维分子结构上进行统一的几何学建模,设计了适用于大规模系统的等变Transformer和针对多领域数据集的块级去噪策略。

创新点:

  • EPT是一种新颖的预训练框架,它协调了小分子和蛋白质的几何学习,允许跨领域知识转移。

  • EPT通过使用增强块表示来统一不同领域的分子表示,这种表示关注每个原子更广泛的上下文。

  • EPT实现了一种等变Transformer,它保持了分子结构的几何对称性,从而准确地表示了3D结构。

超图神经网络

一种先进的机器学习模型,它扩展了传统图神经网络的概念,以处理更高阶的数据关系。

其核心思想在于利用超图结构来编码和学习数据之间的高阶相关性。与传统的图不同,超图可以表示多方面的关系,其中每条超边可以连接任意数量的节点。这种结构让超图神经网络特别适合用于数据点之间存在复杂交互的场景。

代表论文1

T-HyperGNNs: Hypergraph Neural Networks Via Tensor Representations

方法:论文设计一种使用张量表示的超图神经网络(HyperGNNs),以充分利用高维超图数据进行表示学习。通过使用张量来编码超图结构,并通过交叉节点交互张量来建模节点之间的相互作用,HyperGNN可以学习超过节点级求和的高阶函数。

创新点:

  • 引入张量表示法和张量 t-乘积,提出了基于张量的超图 T-谱卷积。

  • 提出了将 T-谱卷积局部化为 T-空间卷积的方法,以减小计算复杂性。

  • 引入了压缩的邻接张量,并提出了张量消息传递超图神经网络 (T-MPHN),以提高计算效率。

 关注下方《学姐带你玩AI》🚀🚀🚀

回复“百变GNN”获取全部论文+代码

码字不易,欢迎大家点赞评论收藏

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/472658.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

基于ssm的航空售票系统

基于SSM的航空订票系统根据功能设计划分为管理员用户和注册用户,从这两种用户的功能所需展开设计,管理员对注册用户管理、航班管理、航班时刻管理、通知公告管理、订票管理、退票管理等;注册用户主要是注册成功后登录,机票查询&am…

基于 Vue3打造前台+中台通用提效解决方案(中)

33、实现全屏展示功能 我们知道在原生dom上,提供了一些方法来供我们开启或关闭全屏: Element.requestFullscreen()Document.exitFullscreen()Document.fullscreenDocument.fullscreenElement一般浏览器 使用requestFullscreen()和exitFullscreen()来实现 早期版本Chrome浏…

异常:程序出现的问题

目的:为了以后发现异常后怎么去处理 异常的作用

学点儿Java_Day7_在实体类当中IDEA无法进行单元测试(@Test没有启动按钮)

在敲代码体会继承和访问修饰符的时候忽然遇到了单元测试不管用的情况,表现为没有启动按钮   经过一番折腾,发现我的测试是在具有构造函数的实体类Person当中进行的,当我把所有的构造函数删除后,启动按钮又出来了,加…

鸿蒙开发实战:【文件管理】

介绍 本示例主要展示了文件管理相关的功能,使用[ohos.multimedia.medialibrary]、[ohos.filemanagement.userFileManager] 、[ohos.fileio] 、[ohos.file.fs]、[ohos.app.ability.contextConstant] 等接口,实现了增添文件、删除文件、查找指定类型文件…

Java基础夯实——八股文【2024面试题案例代码】

1、Java当中的基本数据类型 Java中常见的数据类型及其对应的字节长度和取值范围如下: byte:1字节,取值范围为-128到127。short:2字节,取值范围为-32,768到32,767。int:4字节,取值范围为-2,147…

【Linux】初识进程

目录 操作系统是什么 设计操作系统的目的 操作系统的定位 如何理解管理 管理的本质 管理的例子 计算机的管理概念图 操作系统管理逻辑的六字真言 系统调用和库函数的概念 进程 进程的概念 什么是PCB? PCB的主要内容 如何查看进程? 通过系统…

数据结构与算法----复习Part 17 (图(Graph)初步)

本系列是算法通关手册LeeCode的学习笔记 算法通关手册(LeetCode) | 算法通关手册(LeetCode) (itcharge.cn) 目录 一,图(Graph) 图的分类 顶点的度 环形图和无环图 连通图和非连通图 强连…

远程服务器安装portainer —— docker的可视化工具

可视化工具(了解即可) 最常用的工具是 portainer portainer 是一个开源的容器管理平台,它提供了一个简单易用的用户界面,用于管理和监控 docker 容器集群。通过 portainer,用户可以轻松地进行容器的部署、启动、停止…

C++_回文串

目录 回文子串 最长回文子串 分割回文串 IV 分割回文串 II 最长回文子序列 让字符串成为回文串的最少插入次数 回文子串 647. 回文子串 思路,i j表示改范围内是否为回文串, ②倒着遍历是为了取出dp[i 1][j - 1] ③i j 只有一对,不会重复…

算法沉淀——贪心算法五(leetcode真题剖析)

算法沉淀——贪心算法五 01.跳跃游戏 II02.跳跃游戏03.加油站04.单调递增的数字 01.跳跃游戏 II 题目链接:https://leetcode.cn/problems/jump-game-ii/ 给定一个长度为 n 的 0 索引整数数组 nums。初始位置为 nums[0]。 每个元素 nums[i] 表示从索引 i 向前跳转…

一共有哪 3 类线程安全问题

一共有哪 3 类线程安全问题 运行结果错误发布和初始化导致线程安全问题活跃性问题死锁活锁饥饿 要想弄清楚有哪 3 类线程安全问题,首先需要了解什么是线程安全,线程安全经常在工作中被提到,比如:你的对象不是线程安全的&#xff0…

2024新版计算器:腾讯云服务器价格计算器,报价不求人

腾讯云服务器价格计算器可以一键计算出云服务器的精准报价,包括CVM实例规格价格、CPU内存费用、公网带宽收费、存储系统盘和数据盘详细费用,腾讯云百科txybk.com分享腾讯云价格计算器链接入口、使用方法说明,在腾讯云百科 txy.wiki 查看当前最…

全球盲盒火热下,海外盲盒APP助力我国盲盒出海

盲盒具有不确定性,与各类热门影视动漫合作推出的专属盲盒商品,吸引了无数年轻人,成为了年轻人的娱乐消费首选方式。 在互联网电商的推动下,盲盒在全球内的市场规模迅速扩大。受到市场增长的影响,各类资本公司也纷纷进…

【Python】import无法导入某一目录下的文件

问题: 如图所示,我在mains文件夹下面有一个main_VAE.py的程序,在与mains同级目录的models文件夹下面有一个variational_autoencoder.py(可能上图无法显示完全models文件夹),此时我想要在main_VAE.py程序中导…

数据结构从入门到精通——直接选择排序

直接选择排序 前言一、选择排序的基本思想:二、直接选择排序三、直接选择排序的特性总结:四、直接选择排序的动画展示五、直接选择排序的代码展示test.c 六、直接选择排序的优化test.c 前言 直接选择排序是一种简单的排序算法。它的工作原理是每一次从未…

Linux-docker安装数据库mysql

1、拉去mysql镜像: docker pull mysql2、创建容器挂载路径 mkdir -p /usr/local/jiuxiang/mysql/data # 数据存储位置 mkdir -p /usr/local/jiuxiang/mysql/logs # 日志存储位置 mkdir -p /usr/local/jiuxiang/mysql/conf # 配置文件3、启动容器 docker run -…

详细分析Python模块中的雪花算法(附模板)

目录 前言1. 基本知识2. 模板3. Demo 前言 分布式ID的生成推荐阅读:分布式ID生成方法的超详细分析(全) 1. 基本知识 Snowflake 算法是一种用于生成全局唯一 ID 的分布式算法,最初由 Twitter 设计并开源 它被设计用于解决分布式…

sentinel整合openFeign实现fall服务降级

服务提供方: 导入依赖&#xff1a; <!--openfeign--><dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-openfeign</artifactId></dependency><!--alibaba-sentinel--><depend…

猫猫编号

解法&#xff1a; 暴力 #include<iostream> #include<algorithm> #include<vector> using namespace std; #define endl \nint main() {int n, m, sum 1;cin >> n >> m;string s;cin >> s;int pre s[0] - 0;int t 0;for (int i 1; i…