一、Heterogeneous Graph Attention Networks for Early Detection of Rumors on Twitter(2021)
主要使用异构的数据,解决的全局语义的问提,以提高检测结果
1、存在方法
目前存在的方法:
- 早期的谣言检测方法大多是利用特征工程从文本内容用户画像以及传播模式中提取识别特征
- 近来,由于深度学习的广泛应用,Ma采用了 RNN网络来获取每个源推及其转发的语义变化,并根据语义变化进行预测。Ma等[10]研究了一种基于树的递归神经网络来捕获源推传播的语义信息和传播线索,用于谣言检测。Yuan等人探索了一种全球-局部关注网络来捕获源推传播的局部语义关系和全局结构信息,用于谣言检测。
2、问题
- 这些方法不能够利用内容的全局语义关系,而谣言的语义共性是检测谣言的关键技术。 这些方法的一个主要局限性是忽略了文本内容的全局语义关系,而这一点已经被证明是有用的
- 以往的谣言检测方法大多侧重于谣言传播中文本内容的局部语义关系,而忽略了不同谣言文本内容之间的全局语义关系。
3、论文贡献
构建了一个根据内容和谣言传播来源构建tweet-word-user 的异构网络,并加入一个图注意力网络来捕捉内容的全局语义关系结合源推传播的全局结构信息进行谣言检测。
- 这是第一次将谣言的文本内容和源传播构建为异构的tweet-word-user图,其中包含tweet、word和用户节点
- 本文提出了一种基于元路径的异构图关注网络框架,用于获取文本内容的全局语义关系,并将其与tweet源传播中涉及的信息进行整合,用于谣言检测
- 在真实的Twitter数据集上的实验表明,所提出的方法优于最先进的基线,在早期检测谣言方面具有可比性的能力
4、模型
二、Rumor Detection on Social Media with Bi-Directional Graph Convolutional Networks(2020)
主要使用双向CGN解决谣言传播与扩散这两个角度的监测问题
1、存在方法
- 传统的检测方法主要采用用户特征、文本内容、传播模式等手工特征来训练监督分类器,如:Decision Tree (Castillo, Mendoza, and Poblete 2011), Ran�dom Forest (Kwon et al. 2013), Support Vector Machine (SVM) (Yang et al. 2012).
- 用户评论 (Giudice 2010),时间结构特性 (Wu, Yang, and Zhu 2015),帖子的情感态度 (Liu et al. 2015).
- 深度学习RNN结构使用在谣言检测中。发了深度学习方法,从传播路径/树或网络中挖掘高层表示来识别谣言。许多深度学习模型,如长期短期记忆(LSTM),门控循环单元(GRU)和递归神经网络(RvNN) (Ma et al. 2016;Ma, Gao, and Wong 2018),因为他们能够从一段时间的谣言传播中学习序列特征。不能提取扩散信息的传播
- 因此,一些研究试图通过调用基于卷积神经网络(CNN)的方法来引入谣言扩散结构中的信息(Yu et al. 2017;Yu等人2019)。基于cnn的方法可以获得局部邻居内部的相关特征,但不能处理图或树的全局结构关系
- GCN可以提取全局信息。
2、问题
- 传统方法主要依赖于特征工程,费时费力。而且,这些手工制作的特征往往缺乏从谣言的传播和扩散中提取的高层表征。
- 然而,这些深度学习方法在谣言检测中只考虑了深度传播的模式,而忽略了广泛散布的结构。由于时间结构特征只关注谣言的序列传播,而忽略了谣言扩散的影响,因此这些方法在效率上有很大的局限性。
- CNN结构不能处理图或树的全局结构关系
3、论文贡献
实际上,传播和散布是谣言的两个重要特征。本文提出了一种新的双向图模型。双向图卷积网络(Bi-GCN),通过操作自顶向下和自底向上谣言传播来探索这两种特征。它利用一个由上至下的谣言传播有向图的GCN来学习谣言传播的模式;和一个具有相反方向谣言扩散图的GCN来捕捉谣言扩散的结构。GCN的每一层都涉及到源贴的信息,以增强谣言从根源上的影响。
- 我们利用图卷积网络来检测谣言。据我们所知,这是第一次使用GCN进行社交媒体谣言检测的研究。
- 我们提出的Bi-GCN模型不仅考虑了谣言沿关系链自上而下传播的因果特征,而且通过自下而上的聚集得到了谣言在社区内传播的结构特征。
- 在每个图卷积层上,我们将源帖子的特征与其他帖子的特征连接起来,从而综合利用根特征的信息,从而获得良好的谣言检测性能。
4、模型
1、构造传播和扩散图
把传播结构作为一个事件,A表示邻接矩阵,只包括从上节点到下节点的边,X表示特征矩阵。为了防止过拟合,我们采用DropEdge方法成。根据和X,建立Bi-GAN模型,分程从上而下GCN(TD-GCN)和从下而上GCN(BU-GCN),共享特征矩阵X,邻接矩阵有所不同,分别是和。
2、计算高层节点表示
对于TD-GCN模块,把和X输入到GCN模型当中,激活函数采用Relu,同理BU-GCN也是如此计算。
3、根节点增强
一个谣言事件的源帖往往具有丰富的信息,产生广泛的影响,有必要更好地利用源帖子的信息,并从节点与源帖子的关系中学习更准确的节点表示。我们提出了一种根特征增强操作来提高谣言检测的性能。因此我们将每个节点的隐藏特征向量与(k−1)层 GCL的根节点的隐藏特征向量连接起来,构造一个新的特征矩阵为:
其中,,因此
BU-GCN以相同的方法获取根节点特征,来增强模型。
4、谣言分类中传播和散布的表示
对于聚合,我们采用平均池的操作
而后两个子模块聚合
最后通过一个softmax函数进行分类
使用交叉熵作为loss函数,并用正则化来防止过拟合。
5、数据集
采用了Weibo,Twitter15以及Twitter16三个数据集进行实验,此三个数据集,节点表示用户,边表示转发和回应,特征是根据Bi-GCN中提到的TF-IDF值抽取的前5000个单词。
三、User Preference-aware Fake News Detection
1、存在方法
- 特征工程和深度学习方法
- 自然语言处理类的方法,比如FakeBERT使用TextCNN和BERT的方法来获取文字信息
- 图网络类:比如GCNFN和GNN-CL利用GCN在社交网络上获取传播魔时
2、问题
- 侧重于对新闻内容及其用户外生上下文的建模,而忽略了用户的内生性偏好。
如何提取内生偏好和外生情境????
3、论文贡献
- 提出了UPFD模型,将内生偏好与外生情境联合建模,其步骤可分为:
1). 为了构建用户的的内生偏好,采用不同的学习方法编码文章内容也用户历史;
2). 为了获取用户外生情境,构建一个树结构的传播图;
3). 为了把内生和外生相结合,把用户和新闻看成是节点特征,采用了GNN的方法,学习节点特征表达;
4). 根据用户的嵌入向量和文本嵌入向量,训练分类器检测假消息。