admin管理员组

文章数量:1530516

研究问题

将图网络作为编码器，将Conv-TransE作为解码器，应用于知识图谱补全任务

背景动机

  • ConvE模型在做卷积之前对embedding实施了reshape操作，并且没有保留TransE系列模型的可翻译属性
  • ConvE模型没有把知识图谱的连通性纳入考虑

模型思想

提出了一种端到端的图结构敏感的卷积网络，编码器为WGCN，将节点结构、节点属性、关系类型作为输入；解码器为Conv-TransE，在ConvE的基础上可以保留实体到关系嵌入之间的翻译属性。

模型框架

  • 总体流程

编码器计算出嵌入矩阵（其中红色节点是中心节点，不同颜色的边代表不同的关系），每次取出一组节点和关系，经过卷积和全连接层操作后输出预测的嵌入并与原始的实体嵌入矩阵相乘，经sigmod函数得到预测分数。

  • Weighted Graph Convolutional Layer（WGCN）

WGCN的主要思想是在聚合来自不同邻居节点的信息时，根据不同类型的关系赋予不同的自学习权重。

假设节点在第层的表示为，若，则该层的输入矩阵为，其中从高斯分布中随机采样得来。假设共有L层，是最终得到的嵌入矩阵。假设关系类型的总数为，则两个节点之间的交互强度由连边的类型决定，表示为

节点嵌入的更新公式如下

，

添加self_loop以保留节点自身信息

假设对于关系t，是其二维二元邻接矩阵，更新公式为

为了处理属性信息，论文将节点的属性也建模成了图中的节点，同时为了防止属性过多，对其进行了合并，例如只有性别作为属性节点，而没有单独的“男”或“女”节点。

  • Conv-TransE

和ConvE的最大区别在于，卷积核大小为，这样就可以省去reshape操作

这本质上其实是对实体和关系的嵌入做一维卷积之后加起来，相当于保留了可翻译属性，类似于TransE的思想。

最终得分函数为

实验部分

  • 链路预测实验

  • 参数敏感性实验

  • 节点度数实验

在度较低的节点下是SACN高于Conv-TransE的，因为邻居节点可以共享更多的信息；然而度较高的节点则效果不如单独的Conv-TransE

评价

整体思想还是比较简单的，作者比较会讲故事，把卷积从多维改成二维都能说很多道理。

本文标签： ConvolutionalAwareStructureNetworkscompletion

版权声明：本文标题：End-to-end Structure-Aware Convolutional Networks for Knowledge Base Completion 内容由热心网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：https://m.elefans.com/dongtai/1725840764a1044987.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。