[图神经网络]图嵌入
创始人
2025-05-31 07:34:24
0

将节点映射成D维向量主要有以下几种方法:

        ①人工特征工程:节点重要度、集群系数、Graphlet等

        ②图表示学习:通过随机游走构造自监督学习来实现,如DeepWalk,Node2Vec

        ③矩阵分解

        ④深度学习:图神经网络

一、图嵌入

        传统图机器学习需要使用人为的特征工程来实现图到D维向量的转换。而图表示学习是有计算机自动学习特征将各模态输入转换为向量,这个过程不需要人工干预。

         d维向量有如下特点:

                低维:向量的维度远小于节点数

                连续:每个元素都是实数

                稠密:每个元素都不为0(区别于热编码)

        嵌入向量包含网络的连接信息,且能用于下游任务。

二、基本框架

        1.编码器

                输入一个节点,经过处理后输出其对应的d维向量

        2.解码器

                将编码器得到的向量进行点积,得到其余弦相似度(标量,可以反映节点的相似度)

        !!!需注意的是编码器和解码器的结构是可以更换的,不一定是点积,得到的也不一定是余弦相似度。

        框架迭代优化的方向是:使得图中相似节点的向量数量积大,不相似节点的向量数量积小

三、常见的编码器

        1.浅编码器

                实质上是人为将所有节点的d维向量写入一个矩阵Z中,将此矩阵与一个热编码(one-hot)向量v相乘即可得到嵌入向量,记作:Enc(v)=z_v=Z \cdot v;其中矩阵Z的参数为可学习参数。

        2.随机游走

                从u节点出发,生成一个随机游走序列,求其经过v节点的概率,记作:P(v|z_u)

                可以通过softmax激活函数计算:\sigma (z)[i]=\frac{e^{z[i]}}{\sum e^{z[i]}}sigmoid计算:S(x)=\frac{1}{1+e^{-x}}

                ①Deepwalk

                        1.采样得到若干随机游走序列,计算条件概率

                        2.迭代优化每个节点的d维向量,使得序列中共现节点向量数量积大,不共现节点向量数量积小。

        似然目标函数\underset{f}{max}\sum logP(N_R(u)|z_u),其中N_R(u)为从u节点出发的随机游走序列,游走策略为R

        损失函数\iota=\sum\sum -log(P(v|z_u)),其中概率由softmax计算P(v|z_u)=\frac{exp(z_u^Tz_v)}{\sum exp(z_u^Tz_n)}

         负采样:可以将P(v|z_u)=\frac{exp(z_u^Tz_v)}{\sum exp(z_u^Tz_n)},近似为log(\sigma(z_u^Tz_v))-\sum_{i=1}^k log(\sigma(z_u^Tz_{n_i}) ),此式中的 k 为负样本个数。k一般取5-20,且统一个游走序列中的节点不应被采样为“负样本”。

                Node2vec

                        其余步骤和Deepwalk一致,但是可以通过设置超参数来规定随机游走的偏向性:BFS--宽度优先--局部探索;DFS--深度优先--全局探索

相关内容

热门资讯

安卓系统和oppo系统哪个流畅... 你有没有想过,手机系统哪个更流畅呢?安卓系统和OPPO系统,这两个名字听起来就让人心动。今天,咱们就...
安卓怎么用微软系统,利用微软系... 你是不是也和我一样,对安卓手机上的微软系统充满了好奇?想象那熟悉的Windows界面在你的安卓手机上...
安卓系统如何安装nfc,安卓系... 你有没有想过,用手机刷公交卡、支付账单,是不是比掏出钱包来得酷炫多了?这就得归功于NFC技术啦!今天...
ios系统可以转安卓,跨平台应... 你有没有想过,你的iPhone手机里的那些宝贝应用,能不能搬到安卓手机上继续使用呢?没错,今天就要来...
iOSapp移植到安卓系统,i... 你有没有想过,那些在iOS上让你爱不释手的app,是不是也能在安卓系统上大放异彩呢?今天,就让我带你...
现在安卓随便换系统,探索个性化... 你知道吗?现在安卓手机换系统简直就像换衣服一样简单!没错,就是那种随时随地、随心所欲的感觉。今天,就...
安卓系统安装按钮灰色,探究原因... 最近发现了一个让人头疼的小问题,那就是安卓手机的安装按钮突然变成了灰色,这可真是让人摸不着头脑。你知...
安卓7.1.1操作系统,系统特... 你知道吗?最近我在手机上发现了一个超级酷的新玩意儿——安卓7.1.1操作系统!这可不是什么小打小闹的...
安卓os系统怎么设置,并使用`... 你有没有发现,你的安卓手机有时候就像一个不听话的小孩子,有时候设置起来真是让人头疼呢?别急,今天就来...
安卓降低系统版本5.1,探索安... 你知道吗?最近安卓系统又来了一次大动作,竟然把系统版本给降到了5.1!这可真是让人有点摸不着头脑,不...
解放安卓系统被保护,解放安卓系... 你有没有想过,你的安卓手机其实可以更加自由地呼吸呢?是的,你没听错,我说的就是解放安卓系统被保护的束...
校务帮安卓系统下载,便捷校园生... 你有没有想过,你的手机里装了一个神奇的助手——校务帮安卓系统下载?没错,就是那个能让你轻松管理学校事...
安卓系统没有拼多多,拼多多崛起... 你知道吗?最近我在手机上发现了一个小小的秘密,那就是安卓系统里竟然没有拼多多这个应用!这可真是让我大...
甜城麻将安卓系统,解锁全新麻将... 你有没有听说过那个超级火的甜城麻将安卓系统?没错,就是那个让无数麻将爱好者为之疯狂的软件!今天,就让...
安卓系统卸载的软件,深度揭秘卸... 手机里的软件越来越多,是不是感觉内存不够用了?别急,今天就来教你怎么在安卓系统里卸载那些不再需要的软...
安卓系统推荐好游戏,畅享指尖乐... 手机里的游戏可是咱们休闲娱乐的好伙伴,尤其是安卓系统的用户,选择面那可是相当广呢!今天,就让我来给你...
王者安卓系统怎么卖,揭秘如何轻... 你有没有听说最近王者安卓系统的火爆程度?没错,就是那个让无数玩家沉迷其中的王者荣耀!今天,我就来给你...
安卓开发系统内置证书,基于安卓... 你有没有想过,你的安卓手机里那些神秘的内置证书,它们到底是个啥玩意儿?别急,今天就来给你揭秘这些隐藏...
荣耀安装安卓原生系统,深度体验... 你知道吗?最近荣耀手机界可是掀起了一股热潮,那就是——荣耀安装安卓原生系统!这可不是什么小打小闹,而...
安卓13小米系统,创新功能与流... 你知道吗?最近安卓13系统可谓是风头无两,各大手机厂商纷纷推出自家的新版系统,其中小米的安卓13系统...