65、图神经网络：原理、挑战与应用

图神经网络：原理、挑战与应用

1. 图神经网络的通用框架

在图神经网络中，对网络新增节点进行嵌入时，若采用增量训练方式，虽比从头开始训练轻松一些，但成本依然较高。不过，分层网络可在无需额外或增量训练的情况下嵌入新节点，因为权重矩阵在节点间是共享的。只需将卷积操作应用于新节点的输入表示与已学习的矩阵，就能在不额外训练的情况下，通过各层操作生成新节点的输出嵌入。

2. 处理关系网络

关系网络中，边可能有不同类型，代表实体间不同的关系，这种网络也被称为异构信息网络，在知识图谱中很常见。例如，由演员、导演和电影组成的网络，可能包含“执导”“参演”等不同类型的边。

假设共有 ( l ) 种不同的边类型，那么会为不同的边类型学习不同的权重矩阵，并对不同边类型的影响进行聚合。简单邻域聚合更新公式如下：
((\forall i, k) : \hat{h} i^{(k)} = \Phi \left( \sum {r=1}^{l} W^{(k,r)} \sum_{j \in A^r(i)} \frac{\hat{h} j^{(k - 1)}}{\vert A^r(i) \vert} + \sum {r=1}^{l} B^{(k,r)} \hat{h}_i^{(k - 1)} \right))

也可以通过为不同的边类型添加可训练参数 (\beta_1, \beta_2, \ldots, \beta_l) 来为不同的模态赋予不同的权重：
((\forall i, k) : \hat{h} i^{(k)} = \Phi \left( \sum {r=1}^{l} \beta_r