方面级情感分析(一)-程序员宅基地

技术标签: 深度学习  自然语言处理  方面级情感分析  神经网络  

方面级情感分析
任务定义
方面级情感分析(Aspect-based sentiment analysis, ABSA)主要包括方面词抽取和方面级情感分类。
ABSA任务需要识别出给定目标中特定方面的情感极性,通常分为两个子任务:方面类型情感分析和方面词项情感分析。
传统方面级情感分析:
在ABSA任务上,早期的工作主要基于人工特征工程,通过人工设计、特征选择,如情感词典、依赖信息等,再利用最大熵、支持向量机等传统分类器进行情感分类。
(1)如Hu[1]提出通过给定的情感种子词语,利用WordNet词典,来查找种子词语的同义词和反义词。
(2)Wagner[2]利用SVM,在人工设计抽取的多种特征上进行方面级情感分类。虽然均取得了不错的性能,但是模型泛化能力差、人工成本高等缺点也逐渐暴露出来。
基于深度学习的情感分析
近些年由于神经网络的兴起,尤其是注意力和记忆力机制成功应用于各类自然语言处理任务,基于深度学习的情感分析方法能够取得最优的效果。该方法最大的优势就是不依赖人工定义特征,神经网络可以自行学习文本中蕴含的情感信息。
现有的基于深度学习的ABSA方法主要分为五类:基于递归神经网络(Recursive Neural Network,RecNN)、基于循环神经网络(Recurrent Neural Network,RNN)、基于注意力循环神经网络(Attention-based RNN)、基于卷积神经网络(Convolutional Neural Network,CNN)和基于记忆力神经网络(Memory Network)的方面级情感分析。

基于递归神经网络的方面级情感分析
(1)Socher[3]提出了RecNN模型,该模型通过语法结构解析树自下而上地递归获得组合单词,因此捕获的语义关系更加细粒度,同时可以运用于更长的短语或句子,该方法在电影评论数据集上达到了79%的情感分析准确率。
(2)基于树结构的递归神经网络(Tree-based RecNN)被引入到ABSA任务上。Dong[4]提出了自适应递归神经网络(AdaRNN)解决基于目标词语的Twitter情感分析,利用依赖解析树寻找在语法上跟目标词有关联的词语,通过自底向上的递归计算获取目标词语的向量表示。实验表明,AdaRNN的分类性能优于传统的机器学习方法以及基本的递归神经网络方法。
基于循环神经网络的方面级情感分析
RNN具有优秀的序列学习能力,目前ABSA任务中的先进方法大多数都是基于循环神经网络进行建模。在此类研究中,模型可以继续细分为三类:循环神经网络、双向循环神经网络、分层循环神经网络。Tang[5]提出基于目标依赖的长短期记忆神经网络(TD-LSTM)和基于目标关联的长短期记忆神经网络(TC-LSTM),实验表明TC-LSTM相比TD-LSTM,可以学习目标词语跟上下文的相互关系,在情感分类准确率上有所提升。Zhang[6]利用门控神经网络结构,通过Bi-RNN对句子中的句法和语义以及方面词与周围上下文词之间的相互作用进行建模。Ruder[7]提出HRNN模型,使用分层双向长短期记忆神经网络学习句内和句间的关系。
基于注意力循环神经网络的方面级情感分析
近年来,注意力机制(Attention Mechanism)在机器翻译、问答系统等自然语言处理任务上取得成功。针对ABSA任务,很多基于注意力循环神经网络的变体不断被提出。注意力机制核心目标在于从众多信息中选择对当前任务目标更为关键的信息,利用注意力机制得到文本中关于某个方面类别的描述表示,将不同的方面类别信息区分开来,从而进行更加准确的情感极性判别,这和方面级情感分析的目标不谋而合。
目前,基于注意力循环神经网络可以分为两类:基本注意力循环神经网络和交互注意力循环神经网络。为了提升方面级情感分析的效果,研究者们在基本注意力神经网络模型上做了大量的工作。
(1)例如,Wang[8]最早将注意力机制引入该任务,提出了一种使用目标嵌入的基于注意力的 LSTM 模型,该工作在LSTM网络基础上为每个目标设置一个注意力向量,强制模型去注意句子中的重要部分,以响应特定的对象。
其后,许多工作在此基础上结合任务的特点对于注意力机制进行了改进,很多基于交互式或迭代式注意力机制被应用于ABSA任务上。
(2)例如,Ma[9]提出了一种交互式注意网络(Interactive attention networks,IAN),使用两个注意力网络来交互式地检测目标描述的重要单词和整个上下文的重要单词。
基于卷积神经网络的方面级情感分析
CNN[10]通过卷积操作和池化操作从原始数据中提取出高级的特征,在计算机视觉领域的有效性已经得到诸多验证。
(1)Huang[11]利用参数化的过滤器门控结构将方面词信息合并到CNN中。
(2)Fan[12]提出了一种卷积记忆网络,该网络融合了注意机制,可以同时捕捉句子中的单词和多单词表达。
(3)Li[13]采用了一种接近策略,利用单词和方面词语之间的位置相关性来缩放卷积层的输入。实验表明,在方面级情感分析任务上,各种卷积神经网络变体的分类性能优于传统的机器学习方法以及基本的卷积神经网络方法。
基于记忆力神经网络的方面级情感分析
Tang[14]将深度记忆网络思想应用到方面级情感分析任务中,通过记忆网络存储给定方面的上下文信息,同时利用注意力机制捕捉该属性与上下文关联的重要程度。
Chen[15]提出了一种基于记忆网络的递归注意机制(RAM),来提取被长距离分隔的情感信息。
Liu[16]针对ASC任务,提出一种基于语境的注意机制,该机制明确考虑到特定方面词与其上下文词语之间的关系。该模型由句子层面的内容注意机制和语境注意机制两部分组成。其中,句子层面的内容注意机制能够从全局的角度捕捉到,整个句子针对方面词语的重要信息,克服了在深层记忆网络模型存在的短视问题。
数据集
SemEval-2014
未来研究方向
(1)低资源情感分析。针对低资源语言,目前缺乏大量且权威的标注数据集,特别是短文本的情感分析数据集。如何训练具有高准确率的无监督或半监督方法,使用上大量的无标签情感数据是情感分析的后续研究方向之一。
(2)跨领域情感分析。由于语言的多样性与复杂性,不同领域间的情感表达差别较大。特别是当领域差异过大时,如在商品评论领域训练的情感分析模型应用到新闻领域上,情感分析的效率和性能会出现下降。
(3)多语言情感分析。现有工作主要针对单一语言,而在单一语言中的情感分析的资源与成果,无法泛化到多语言的环境中,在解决情感分析任务的基本问题外,还需要考虑机器翻译、多语言文本处理等工作,这都对多语言情感分析提出了新的需求。
SVM->
在这里插入图片描述

参考文献
基于深度学习的方面级情感分析综述
待读的三篇ACL2021论文
https://blog.csdn.net/qq_27590277/article/details/119988607

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/weixin_43888922/article/details/120246884

智能推荐

稀疏编码的数学基础与理论分析-程序员宅基地

文章浏览阅读290次,点赞8次,收藏10次。1.背景介绍稀疏编码是一种用于处理稀疏数据的编码技术,其主要应用于信息传输、存储和处理等领域。稀疏数据是指数据中大部分元素为零或近似于零的数据,例如文本、图像、音频、视频等。稀疏编码的核心思想是将稀疏数据表示为非零元素和它们对应的位置信息,从而减少存储空间和计算复杂度。稀疏编码的研究起源于1990年代,随着大数据时代的到来,稀疏编码技术的应用范围和影响力不断扩大。目前,稀疏编码已经成为计算...

EasyGBS国标流媒体服务器GB28181国标方案安装使用文档-程序员宅基地

文章浏览阅读217次。EasyGBS - GB28181 国标方案安装使用文档下载安装包下载,正式使用需商业授权, 功能一致在线演示在线API架构图EasySIPCMSSIP 中心信令服务, 单节点, 自带一个 Redis Server, 随 EasySIPCMS 自启动, 不需要手动运行EasySIPSMSSIP 流媒体服务, 根..._easygbs-windows-2.6.0-23042316使用文档

【Web】记录巅峰极客2023 BabyURL题目复现——Jackson原生链_原生jackson 反序列化链子-程序员宅基地

文章浏览阅读1.2k次,点赞27次,收藏7次。2023巅峰极客 BabyURL之前AliyunCTF Bypassit I这题考查了这样一条链子:其实就是Jackson的原生反序列化利用今天复现的这题也是大同小异,一起来整一下。_原生jackson 反序列化链子

一文搞懂SpringCloud,详解干货,做好笔记_spring cloud-程序员宅基地

文章浏览阅读734次,点赞9次,收藏7次。微服务架构简单的说就是将单体应用进一步拆分,拆分成更小的服务,每个服务都是一个可以独立运行的项目。这么多小服务,如何管理他们?(服务治理 注册中心[服务注册 发现 剔除])这么多小服务,他们之间如何通讯?这么多小服务,客户端怎么访问他们?(网关)这么多小服务,一旦出现问题了,应该如何自处理?(容错)这么多小服务,一旦出现问题了,应该如何排错?(链路追踪)对于上面的问题,是任何一个微服务设计者都不能绕过去的,因此大部分的微服务产品都针对每一个问题提供了相应的组件来解决它们。_spring cloud

Js实现图片点击切换与轮播-程序员宅基地

文章浏览阅读5.9k次,点赞6次,收藏20次。Js实现图片点击切换与轮播图片点击切换<!DOCTYPE html><html> <head> <meta charset="UTF-8"> <title></title> <script type="text/ja..._点击图片进行轮播图切换

tensorflow-gpu版本安装教程(过程详细)_tensorflow gpu版本安装-程序员宅基地

文章浏览阅读10w+次,点赞245次,收藏1.5k次。在开始安装前,如果你的电脑装过tensorflow,请先把他们卸载干净,包括依赖的包(tensorflow-estimator、tensorboard、tensorflow、keras-applications、keras-preprocessing),不然后续安装了tensorflow-gpu可能会出现找不到cuda的问题。cuda、cudnn。..._tensorflow gpu版本安装

随便推点

物联网时代 权限滥用漏洞的攻击及防御-程序员宅基地

文章浏览阅读243次。0x00 简介权限滥用漏洞一般归类于逻辑问题,是指服务端功能开放过多或权限限制不严格,导致攻击者可以通过直接或间接调用的方式达到攻击效果。随着物联网时代的到来,这种漏洞已经屡见不鲜,各种漏洞组合利用也是千奇百怪、五花八门,这里总结漏洞是为了更好地应对和预防,如有不妥之处还请业内人士多多指教。0x01 背景2014年4月,在比特币飞涨的时代某网站曾经..._使用物联网漏洞的使用者

Visual Odometry and Depth Calculation--Epipolar Geometry--Direct Method--PnP_normalized plane coordinates-程序员宅基地

文章浏览阅读786次。A. Epipolar geometry and triangulationThe epipolar geometry mainly adopts the feature point method, such as SIFT, SURF and ORB, etc. to obtain the feature points corresponding to two frames of images. As shown in Figure 1, let the first image be ​ and th_normalized plane coordinates

开放信息抽取(OIE)系统(三)-- 第二代开放信息抽取系统(人工规则, rule-based, 先抽取关系)_语义角色增强的关系抽取-程序员宅基地

文章浏览阅读708次,点赞2次,收藏3次。开放信息抽取(OIE)系统(三)-- 第二代开放信息抽取系统(人工规则, rule-based, 先关系再实体)一.第二代开放信息抽取系统背景​ 第一代开放信息抽取系统(Open Information Extraction, OIE, learning-based, 自学习, 先抽取实体)通常抽取大量冗余信息,为了消除这些冗余信息,诞生了第二代开放信息抽取系统。二.第二代开放信息抽取系统历史第二代开放信息抽取系统着眼于解决第一代系统的三大问题: 大量非信息性提取(即省略关键信息的提取)、_语义角色增强的关系抽取

10个顶尖响应式HTML5网页_html欢迎页面-程序员宅基地

文章浏览阅读1.1w次,点赞6次,收藏51次。快速完成网页设计,10个顶尖响应式HTML5网页模板助你一臂之力为了寻找一个优质的网页模板,网页设计师和开发者往往可能会花上大半天的时间。不过幸运的是,现在的网页设计师和开发人员已经开始共享HTML5,Bootstrap和CSS3中的免费网页模板资源。鉴于网站模板的灵活性和强大的功能,现在广大设计师和开发者对html5网站的实际需求日益增长。为了造福大众,Mockplus的小伙伴整理了2018年最..._html欢迎页面

计算机二级 考试科目,2018全国计算机等级考试调整,一、二级都增加了考试科目...-程序员宅基地

文章浏览阅读282次。原标题:2018全国计算机等级考试调整,一、二级都增加了考试科目全国计算机等级考试将于9月15-17日举行。在备考的最后冲刺阶段,小编为大家整理了今年新公布的全国计算机等级考试调整方案,希望对备考的小伙伴有所帮助,快随小编往下看吧!从2018年3月开始,全国计算机等级考试实施2018版考试大纲,并按新体系开考各个考试级别。具体调整内容如下:一、考试级别及科目1.一级新增“网络安全素质教育”科目(代..._计算机二级增报科目什么意思

conan简单使用_apt install conan-程序员宅基地

文章浏览阅读240次。conan简单使用。_apt install conan