GNN、DeepWalk 和 GraphSage
https://easyai.tech/blog/gnn-deepwalk-graphsage/
参考这篇文章
给定一个部分标记的 graph G,目标是利用这些标记的节点来预测未标记的节点的标签。它学习用包含邻域信息的 d 维向量 h_v 表示每个节点。即:
其中 x_co[v] 表示与 v 相连的边的特征,h_ne[v] 表示 v 相邻节点的嵌入,x_ne[v] 表示v 相邻节点的特征。函数 f 是将这些输入映射到 d 维空间上的过渡函数。
DeepWalk [2] 是第一个提出以无监督的方式学习节点嵌入的算法。
它在训练过程中非常类似于词汇嵌入。
分层 softmax 利用二叉树来处理这个问题,要计算给定顶点 v_k 的概率,只需计算从根节点到叶节点 v_k 路径上每一个子路径的概率。由于每个节点的子节点的概率之和为 1,所以所有顶点的概率之和为 1的特性在分层 softmax 中仍然保持不变。
DeepWalk 的主要问题是缺乏泛化能力。
GraphSage 通过聚合其附近的节点,可以为看不见的节点生成可表示的嵌入。