Knowledge-refined Denoising Network for Robust Recommendation

Knowledge-refined Denoising Network for Robust Recommendation(Sigir23)

摘要

知识图(KG)包含丰富的边信息,是提高推荐性能和可解释性的重要组成部分。然而,现有的知识感知推荐方法直接在KG和用户-项目二部图上进行信息传播,忽略了任务无关知识传播的影响和易受交互噪声的影响,限制了其性能。针对上述问题,本文提出了一种鲁棒的知识感知推荐框架-知识细化去噪网络(KRDN),该框架能够同时修剪与任务无关的知识关联和有噪声的隐式反馈。KRDN包括自适应知识精炼策略和对比去噪机制,分别能够自动提取高质量的KG三元组进行聚合和修剪含噪隐式反馈。

引言

在这里插入图片描述

目前基于传播的方法通常有以下两个限制:

  1. 无效的知识传播
  2. 容易受到噪声的干扰

本文贡献:
3. 从一个新的角度来处理知识感知的推荐,同时细化知识关联和去噪隐式交互,以细粒度的方式开发了KG中的知识关联,它不仅可以学习根据下游监控信号修剪不相关的三元组,而且可以组合地聚合多方面的事实,以获得高质量的知识表示。
4. 提出了一种对比去噪策略,利用协同和知识两个方面的语义差异来更好地表达和传播用户真实偏好,从而大大增强了推荐的鲁棒性。

问题定义

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

模型框架

在这里插入图片描述
(1)自适应知识精炼,其使用参数化的二进制掩码来学习以无偏梯度估计器去除不相关的事实,同时设计了组合知识聚合器以有效地集成不同种类的知识关联用于上下文传播
(2)对比去噪学习,其关注协作信号和知识信号的差异以对比方式识别噪声交互,并且迭代地执行关系感知图自增强以增强用户表示。

一. 自适应知识精炼

与之前直接将KG中的各种信息集成到项目表示中的基于传播的方法不同,我们的目标是捕获最相关的知识关联,这有利于学习用户偏好。具体来说,我们设计了一个自适应修剪机制,学习修剪无关的事实与可训练的随机二进制掩码,并设计了一个梯度估计器,以共同优化它们与模型。同时,我们认为,现有的方法是无法正确地表征项目,因为他们不区分项目相关的信息,只在一个粗粒度上聚集KG信息。KG中的不同实体对于推荐场景具有不同的语义,并且它们在分析项中扮演不同的角色。这促使我们执行上下文感知的组合聚合机制,根据项目的相关性收集不同的语义。

1. 无关事件修剪

KG包含大量噪声和与任务无关的信息,这些信息是无用的,甚至会降低性能。一个简单的解决方案是手动构建一个K近邻子图来约束节点的感受野[10,33],或者随机丢弃一些边来构建用于对比学习的多视图图结构[53,58]。然而,这些方法高度依赖于图构造的质量,并且不能根据推荐任务自适应地丢弃不必要的边。因此,我们转向一个参数化的方法来共同学习最佳修剪策略与下游的合作信号。从技术上讲,我们首先将T中的每个三元组与二进制掩码∈{0,1}连接起来,以指示是否应该丢弃该三元组,因此修剪后的事实可以表示为:
在这里插入图片描述
在这里插入图片描述

2.组合知识聚合

将图谱划分为三种集合: T = {T1, T2, T3}
T1 = {(ℎ, 𝑟, 𝑡)|ℎ, 𝑡 ∈ I}as “item-item” facts, as both entities in these triplets are aligned
with items.
T2 = {(ℎ, 𝑟, 𝑡)|ℎ ∈ Ior 𝑡 ∈ I} stands for“item-attribute” facts, which means that one ofthe entities is relatedto item while the other acts as the attribute of it.
The rest tripletsT3 = {(ℎ, 𝑟, 𝑡)|ℎ, 𝑡 ∉ I} are “attribute-attribute” facts,where both entities are represented as attributes
我们用多方面的事实重组KG三元组,可以明确地收集不同的知识关联。为了对消息传递进行去噪,我们提出了一种新的聚合机制,包括噪声消息修剪和组合知识聚合。具体来说,我们使用N = {(𝑟,𝑡)|(G,𝑟,𝑡)∈ G𝑘}来表示KG中的邻域实体和项间的一阶关系,并提出将邻域实体的多面关系上下文进行整合,生成实体间的知识表示:
在这里插入图片描述
在这里插入图片描述

其中在聚合图谱信息时,不同的视图的聚合方式不同

在这里插入图片描述

堆叠多层的嵌入,将多层嵌入求均值,获得最终的实体嵌入

在这里插入图片描述

二.对比去噪学习

对比去噪学习主要用于识别用户-项目二分图中的噪声交互,并传播高阶区分协作信号以呈现用户的真实偏好。现有方法忽略了交互中的噪声,并直接聚合来自相邻用户/项目的所有信息,这将使模型难以区分噪声和用户真实偏好,并导致次优的用户/项目表示。最近,一些工作专注于构建不同的图视图,并利用对比学习来增强推荐模型的鲁棒性。不幸的是,这种方法将不可避免地丢失结构信息,并且无法显式地识别假交互。因此,我们的目标是利用协作信号和知识关联之间的分歧,以端到端的方式过滤噪声交互

1.去噪协作聚合

上个模块生成的的项目表示包含精炼的知识关联,这些知识关联被认为具有高置信度。通过直接从交互图中聚合这些项目信息,我们可以获得用户和项目的知识表示。然而,基于隐式反馈构建的用户-项目图不可避免地包含噪声。因此,我们初始化额外的项目表示,以单独捕获纯合作信号作为比较。为了修剪嘈杂的互动,我们专注于协作和知识信号之间的差异。

KRDN保持了原始的图结构而不是随机扰动[53],因此我们能够使用相对距离来评估作为去噪基础的相对于噪声重要性的噪声稳定性:在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2. 图感知自我增强

因为噪声的存在,上述的噪过程不足以降低噪声边缘的权重,并且存在误分类的机会。受邻居路由机制[28]的启发,我们设计了一种关系感知的自增强机制,用于生成上述两种信号中用户和项目之间的增强表示和相关度:
在这里插入图片描述
噪声交互将逐渐被疏远,并且用户表示将被递归地调整到用户偏好的原型[47]。

在这里插入图片描述

预测层

加粗样式**

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/905714.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

数据结构 之 图的 最小生成树(十二)

提示:本篇难点: 生成树概念的理解 重点:是普利姆算法、克鲁斯卡尔算法构造最小生成树 超超超重点的是 普利姆和克鲁斯卡尔构造最小生成树的算法,这部分可能需要同学们自行去学习了。 一定要理解后用代码能够实现这两个算法已经了解…

如何清空回收站后在 Windows 11/10 中恢复已删除的文件

这篇文章将解释如何将已删除的文件、文件夹和其他项目从回收站还原或恢复到原始位置。有时,我们最终会删除重要的文件和文件夹,然后我们不知道如何将它们恢复到原来的位置。但是您不必担心,因为这篇针对初学者的帖子将详细指导您完成所有步骤…

Axios 请求超时设置无效的问题及解决方案

文章目录 Axios 请求超时设置无效的问题及解决方案1. 引言2. 理解 Axios 的超时机制2.1 Axios 超时的工作原理2.2 超时错误的处理 3. Axios 请求超时设置无效的常见原因3.1 配置错误或遗漏3.2 超时发生在建立连接之前3.3 使用了不支持的传输协议3.4 代理服务器或中间件干扰3.5 …

不懂知识图谱的你,正在失去转行做AI产品经理的机会

伴随着AI这块新的投资风口,新兴企业对AI人才的需求也是激增。所以,你准备好了么? 一、AI来了,你被OUT了,有人却已在快车道上了 给你讲个恐怖的故事:我今年,32岁了!三十岁左右是一生…

Generating /run/initramfs/rdsosreport.txt

Linux中遇到Generating /run/initramfs/rdsosreport.txt 第一步:首先输入 ls /dev/mapper 第二步:输入 xfs_repair /dev/mapper/centos-root -L 第三步:重启reboot 不说原因了,直接上解决方式: 第一步:首先…

纯CSS实现UI设计中常见的丝带效果(5)

原文传送门:纯CSS实现UI设计中常见的丝带效果 网页中的丝带效果在设计中扮演着多重角色,其作用可以归纳为以下几个方面: 视觉吸引与装饰 增强视觉吸引力:丝带效果以其独特的形态和色彩,能够迅速吸引用户的注意力&…

OpenCV系列教程六:信用卡数字识别、人脸检测、车牌/答题卡识别、OCR

文章目录 一、信用卡数字识别1.1 模板匹配1.2 匹配多个对象1.3 处理数字模板1.4 预处理卡片信息,得到4组数字块。1.5 遍历数字块,将卡片中每个数字与模板数字进行匹配 二、人脸检测2.1人脸检测算法原理2.2 OpenCV中的人脸检测流程 三、车牌识别3.1 安装t…

音视频入门基础:FLV专题(21)——FFmpeg源码中,获取FLV文件音频信息的实现(上)

由于本文篇幅较长,分为上、中、下三篇。 一、引言 通过FFmpeg命令可以获取到FLV文件的音频压缩编码格式、音频采样率、通道数、音频码率信息: ./ffmpeg -i XXX.flv 而由《音视频入门基础:FLV专题(9)——Script Tag简…

深度学习之降维和聚类

1 降维和聚类 1.1 图解为什么会产生维数灾难 ​ 假如数据集包含10张照片,照片中包含三角形和圆两种形状。现在来设计一个分类器进行训练,让这个分类器对其他的照片进行正确分类(假设三角形和圆的总数是无限大),简单的…

什么是 L0、L1、L2 和 L3 区块链层以及为什么需要它们

区块链的 L 层越来越多地出现在新闻中(例如,A16z 投资基金正在投资以太坊Optimism上的 L2 解决方案,或者 Orbs 的 L3 解决方案将其解决方案扩展到 TON 区块链)。 层的概念是区块链的一种分类,对于快速了解特定项目如何…

数据分析可视化:散点图矩阵与雷达图的生成

目录 一、经营数据绘制散点图矩阵1.代码解释2.代码说明3.注意事项 二、雷达图1.代码解释2.代码说明3. 注意事项4. 运行代码 总结 一、经营数据绘制散点图矩阵 import seaborn as sns import pandas as pd rc {font.sans-serif:Arial Unicode MS,axes.unicode_minus:False} sn…

硅谷甄选(9)SKU模块

SKU模块 8.1 SKU静态 <template><el-card><el-table border style"margin: 10px 0px"><el-table-column type"index" label"序号" width"80px"></el-table-column><el-table-columnlabel"名称…

ubuntu 异常 断电 日志 查看

sudo less /var/log/syslog 搜 Linux version

解决rabbitmq-plugins enable rabbitmq_delayed_message_exchange :plugins_not_found

问题&#xff1a;我是在docker-compose环境部署的 services:rabbitmq:image: rabbitmq:4.0-managementrestart: alwayscontainer_name: rabbitmqports:- 5672:5672- 15672:15672environment:RABBITMQ_DEFAULT_USER: rabbitRABBITMQ_DEFAULT_PASS: 123456volumes:- ./rabbitmq/…

HCIA(DHCP服务)

第三节 开启DHCP服务 创建地址池 调用全局服务 [R1]dhcp enable 开启DHCP服务 [R1]ip pool AA 创建地址池 [R1-ip-pool-AA]network 192.168.1.0 mask 24 写入网段 [R1-ip-pool-AA]gateway-list 192.168.1.1 写入网关 [R1-ip-pool-AA]dns-list 8.8.8.8 114.1…

GB/T 28046.2-2019 道路车辆 电气及电子设备的环境条件和试验 第2部分:电气负荷(6)

写在前面 本系列文章主要讲解道路车辆电气及电子设备的环境条件和试验GB/T 28046标准的相关知识&#xff0c;希望能帮助更多的同学认识和了解GB/T 28046标准。 若有相关问题&#xff0c;欢迎评论沟通&#xff0c;共同进步。(*^▽^*) 第2部分&#xff1a;电气负荷 附录C C.5…

ES8388 —— 带耳机放大器的低功耗立体声音频编解码器(3)

接前一篇文章&#xff1a;ES8388 —— 带耳机放大器的低功耗立体声音频编解码器&#xff08;2&#xff09; 二、详细描述 4. 时钟模式和采样频率 根据输入的串行音频数据采样频率&#xff0c;ES8388可以在两种速度模式下工作&#xff1a;单速或双速。表1列出了这两种模式下的…

ChatGPT 高级语音模式已登陆 Windows 和 Mac 平台,对话更自然

OpenAI ChatGPT 高级语音模式已登陆 Windows 和 Mac 平台&#xff0c;对话更自然&#xff0c;拟态更逼真 OpenAI 于10月31日正式宣布&#xff0c;ChatGPT 的高级语音模式&#xff08;Advanced Voice Mode&#xff0c;简称 AVM&#xff09;现已登陆 Windows 和 Mac 平台。基于最…

鸿道Intewell操作系统架构介绍之Intewell-Hyper I 虚拟化构型

鸿道Intewell-Hyper I 虚拟化构型是鸿道Intewell-V虚拟化架构下的构型体系&#xff01;鸿道Intewell-V是科东软件自主研发的实时虚拟化操作系统&#xff0c;包括鸿道Intewell-Hyper I 和鸿道Intewell-Hyper II。鸿道Intewell-V可以实现多个操作系统在同一物理硬件上并行运行&am…

Redis高级篇之bigKey理论介绍以及优化

文章目录 0 前言1.MoreKey案例2.BigKey案例2.1多大算BigKey2.1.1 string和二级结构2.2 Bigkey危害、产生与发现2.2.1 bigkey的危害2.2.2 如何产生2.2.3 如何发现 2.2.4 大key如何删除3.BigKey生产调优3.1 redis.conf配置文件 LAZY FREEING相关说明 结语 0 前言 bigKey是面试经常…