的度矩阵。
从上面的正向传播公式和示意图来看,GCN好像跟基础GNN没什么区别。接下里给出GCN的传递公式(8):
观察一下归一化的矩阵与特征向量矩阵的乘积:
来源:
https://www.zhihu.com/question/426784258
可以发现,GCN引入度矩阵D用于对邻接矩阵的归一化后,层间传播将不再单单地对领域节特征点取平均,它不仅考虑了节点i对度,也考虑了邻接节点j的度,对于度数较大的节点,它在聚合时贡献地会更少。
文章[5]通过实验证明GCN性能出色,GCN即使不训练,提取出来的特征已经非常优秀,作者做了一个实验,使用俱乐部关系网络数据,如图3所示:
图3 GCN在空间上自动聚类从上图可以发现,使用随机初始化的GCN进行特征提取,经过GCN的提取出的embedding,已经在空间上自动聚类了。
2.2 GAT - attention机制
GAT[6]是典型的基于注意力机制的图神经网络。图注意网络结构如图4所示,节点i,j的特征作为输出,计算两节点之间的注意力权重。