1、LLM-KERec整体框架
LLM-KERec系统包括传统推荐模块和基于LLM的互补知识增强模块。传统推荐模块负责召回候选商品、粗排过滤、精排和重排。LLM互补知识增强模块则包括实体提取器、互补图构造、E-E-I权重决策模型等,以整合互补知识,增强推荐效果。
2、LLM-KERec各模块
传统推荐模块
- 用户打开应用时,服务器会自动触发召回模块,返回大量候选物品。
- 候选物品经过粗排模型筛选,产生较小的候选物品集。
- 细排模型和重排模型用于最终确定物品的展示顺序。
- 每个步骤都可能进行人工干预,例如给物品分配权重进行发布。
基于大语言模型的互补知识增强模块
- 实体提取器从用户账单和物品信息中提取统一的概念术语(实体),并给每个物品分配一个唯一的实体作为其类别。
- 基于实体流行度和策略,生成候选的实体对。
- 利用大语言模型判断每个实体对之间是否存在互补关系,并构建互补图。
- 使用真实互补物品的曝光点击反馈,训练E-E-I权重决策模型。
- E-E-I模型将互补图的边权重注入到排名模型,实现互补物品的推荐。
- 实体提取器和互补图定期更新,以适应新物品和变化的环境。
3、实体图构建
利用互补商品的曝光和点击反馈训练,为下游精排模型提供知识注入。
模型概述:提出了两阶段互补知识增强过程,包括排序阶段和集成阶段。
排序阶段
- 采用双塔结构,输出分别代表互补物品和账单实体的表示,点积作为偏好程度指标。
- 使用图神经网络和对比学习从替代视角和互补视角表示实体。
- 构建了用户-物品-实体图,并设计了三种边关系来表示实体。
集成阶段
- 在召回模块中增加了互补召回路径,使用E-E-I模型为当前样本提供分数、实体嵌入和物品嵌入。
- 细排模型结合当前互补物品和用户画像行为进行个性化排序。
4、参考文献
LLM-KERec:利用大语言模型打破推荐系统的壁垒 - 知乎 (LLM-KERec )
「大模型在搜广推中的应用」相关文章汇总 - 知乎