近日,东北财经大学数据科学与人工智能学院教师慕杰与其合作者的科研成果被中国计算机学会(CCF)数据挖掘领域 A类期刊《IEEE Transactions on Knowledge and Data Engineering》录用,该论文题目为“MOCOLNet: A Momentum Contrastive Learning Network for Multimodal Aspect-Level Sentiment Analysis”,慕杰为第一作者。
近年来,基于方面级别的多模态情感分析受到广泛关注。然而,现有的多模态情感分析算法存在两个未解决的问题:(1)由于缺乏专用于情感分析的预训练标注数据集,采用预训练方式的模型容易产生次优解的预测结果;(2)大多数现有算法采用自注意力编码器来融合多模态数据特征,这样的方式不仅忽略了不同模态特征之间的对齐关系,而且使模型无法捕捉图像和文本之间的语义关联性。本文提出了一种动量对比学习网络(MOCOLNet)来解决上述问题。首先,文本将模型的预训练阶段与训练阶段合并为端到端训练方式,使得模型可以使用较少的专用于情感分析的标注数据来获得更好的预测结果。其次,本文提出一种多模态对比学习方法,在数据融合之前对不同模态特征进行对齐,并设计了一个跨模态匹配策略来捕获文本和图像之间的语义交互信息。此外,本文引入了一个辅助动量策略来增加模型的鲁棒性。本文还使用互信息理论分析了所提出的多模态对比学习方法的有效性。定性与定量的实验证明,所提出的MOCOLNet优于现有的多种表现突出的多模态情感分析算法。
《IEEE Transactions on Knowledge and Data Engineering》是一本专注于计算机信息系统领域的英文学术期刊,创刊于1989年,由IEEE COMPUTER SOC出版商出版。该期刊被中国计算机学会(CCF)认定为A类期刊,已被EI、SCI、SCIE数据库收录。该刊发文范围涵盖计算机信息系统等领域,旨在及时、准确、全面地报道国内外计算机信息系统工作者在该领域的科学研究等工作中取得的经验、科研成果、技术革新、学术动态等。