万字长文带你入门 GCN( 六 )


本文插图
其中 ,为节点 i 的信号 。 我们称 为图信号的总变差(Total Variation) , 可以刻画图信号整体的平滑度 。
拉普拉斯的谱分解具有以下几点性质:

  • 由于拉普拉斯矩阵以每行(列)元素之和为零 , 因此拉普拉斯矩阵的至少有一个特征值为 0 , 对应的特征向量
  • 拉普拉斯矩阵的特征值都大于零 , 归一化的拉普拉斯矩阵的特征值区间为 [0, 2];
  • 如果有 n 个特征值为 0 , 则表示图有 n 个子图相互无连接;
  • 特征值的总和为矩阵的迹 , 对于归一化的拉普拉斯矩阵 , 如果没有孤立节点或子图 , 其特征值为 N 。
2.4 Graph Fourier Transformer
有同学看到这可能会感到疑问了:「我们刚介绍傅立叶变换 , 现在又介绍拉普拉斯谱分解的 , 到底想干嘛」 。
这是因为:「傅立叶分析是拉普拉斯谱分析的一个特例」!想不到吧 , 是不是很震惊?
万字长文带你入门 GCN
本文插图
我们来证明下 , 首先考虑亥姆霍兹方程(Helmholtz Equation):
其中 ,为拉普拉斯算子 ,为特征函数 ,为特征值 。
看不懂不要紧 , 把它当成广义特征方程就行: , 狭隘的特征方程只能用于处理向量和矩阵 , 而这个可以用于处理函数 , 最经典的应用是处理波动方程和扩散方程 , 所以我们可以用它处理信号 。
回顾一下傅立叶变换:
万字长文带你入门 GCN
本文插图
其实就是信号函数 与基函数 的内积(刚刚介绍过函数内积) 。
对于基函数, 我们让其与拉普拉斯算子求内积:
万字长文带你入门 GCN
本文插图
以上便证明 是「拉普拉斯算子的特征函数」 , 同时也证明了「离散傅立叶变换是拉普拉斯谱分析的一个特例」 。
写到这我们有以下线索:首先拉普拉斯矩阵(离散拉普拉斯算子)可以应用在图像上 , 理论上也可以应用到网络上 , 而傅立叶变换是拉普拉斯的一个小弟 , 所以小弟也可以应用到图上 。
回顾下拉普拉斯谱分析:
我们类比一下:
是不是长得非常像 , 所以我们也有了网络图上的傅立叶变换:
万字长文带你入门 GCN
本文插图
其中 ,为网络图上的 n 维向量 ,表示网络中的节点 i 的第 k 个分量 ,表示特征向量 k 的第 i 个分量 。 做个类比解释:特征值(频率) 下 ,的图傅立叶变换(振幅)等于 与 对应的特征向量 的内积 。
考虑矩阵乘法:
万字长文带你入门 GCN
本文插图
所以我们得到了「图傅立叶变换的矩阵形式」 , 这里的 为拉普拉斯谱分解的正交矩阵 。
我们也可以得到傅立叶逆变换:
万字长文带你入门 GCN
本文插图
Graph Convolutional Network
前面的铺垫很多 , 终于要迎来 GCN 了 。
3.1 Convolution
我们先来看一下卷积的定义 , 卷积是指通过两个函数 和 生成第三个函数的一种数学算子 , 表征函数 与经过翻转和平移的 的乘积函数所围成的曲边梯形的面积:
万字长文带你入门 GCN
本文插图
对于离散卷积来说 , 我们可以定义为:
万字长文带你入门 GCN


推荐阅读