万字长文带你入门 GCN( 二 )


万字长文带你入门 GCN
本文插图
可能会有同学问:那我们还有其他办法在图上进行卷积吗?答案是一定有的 = = 。
目前的一大思路就是借助谱图理论(Spectral Graph Theory)来实现在拓扑图上的卷积操作 , 大致步骤为将空域中的拓扑图结构通过傅立叶变换映射到频域中并进行卷积 , 然后利用逆变换返回空域 , 从而完成了图卷积操作 。
看到这里 , 估计大家会有一堆疑问 , 包括:什么是谱图理论?什么是傅立叶变换?什么是频域空域?逆变换是什么?
想要清楚的回答这个问题 , 要从图信号处理说起 。
Graph Signal Processing
图信号处理(Graph Signal Processing , 以下简称 GSP)用来处理那些定义在图上的非规则域的信号 , 这句话有点拗口 , 拆开说就是处理图上定义的信号 , 但信号所在域是规则的 。
2.1 Simple Example
这里我们举一个图信号处理的简单例子:
万字长文带你入门 GCN
本文插图
假设我们在一个地方测量温度 , 并根据人口密度安排了温度感应点(如上图 a 所示) , 地区 n 的测量温度可以表示为 (如上图 b 所示) , 并且,为真实温度 ,为随机噪声带来的误差 。
现在我们想通过对测量地及周围的温度求平均来减少这些随机噪声 , 当然为了防止失去局部温度(这个也叫 Over Smooth) , 我们会对每个点取其周围区域进行平均:
万字长文带你入门 GCN
本文插图
上图 c 展示了 y(1) 的计算方式 。 我们也可以用矩阵来表示:
其中 , 矩阵 A 为邻接矩阵(测量点的连接情况如上图 d 所示) , 测量位置及每个位置的测量温度如上图 e 所示 。
我们还可以对其进行优化 , 根据距离来为不同测量点添加不同的权重:
当然 , 我们也需要对权重进行归一化 , 以便产生无偏估计:
其中 , 对角矩阵 D 用于归一化 , 其值为, 这个矩阵还有另外一个名字 , 叫「度矩阵(Degree Matrix)」 。
以上便是一个简单的是图信号处理过程 , 其框架大致为:

  1. 测量点构成节点(图 a) , 节点间的连通性和相关性构成边;
  2. 节点和边构成图(图 b) , 该图是信号域 , 表示测量信号的点以及它们之间的关系 , 并使用该图进行分析和处理;
  3. 测量温度是图的信号(图 e) , 这里的信号由真实温度和测量噪声所组成;
  4. 考虑测量位置 , 我们提出了局部平均和加权平均 , 这是最简单的图信号处理方式(Linear fist-order) 。
同样的 , 我们也可以将其应用在多个领域 , 如民意调查、政治分析等 。
2.2 Fourier Transformer
我相信如果我一上来就扔出傅立叶变换 , 很多人都会崩溃不想看 , 不信我们试试:
万字长文带你入门 GCN
本文插图
如果没有崩溃的话就直接看下一节吧;如果崩溃了就接着看 , 但是笔掉了千万别捡 , 否则可能就看不懂了 。
2.2.1 Transformer
为了让大家无痛入门 , 我们先从最简单变换的说起 。
我们知道笛卡尔坐标系中 , 每个点都会有一个坐标 , 如下图所示 A(-3,1) B(2,3):
万字长文带你入门 GCN
本文插图
那么为什么可以这么表示呢?为什么 A 的坐标为 (-3,1) 而 B 的坐标为 (2,3) ?
这是因为在笛卡尔坐标系中 , 我们定义了一组标准正交基, 基是向量有方向有大小 。 (正交是指不同基之间的内积为 0 , 即两个基线性无关 , 而标准基是指基的模为 1)


推荐阅读