社交文本的情感分析主要存在结构不规则、特征稀疏和分类效果不理想等问题。针对这些问题,提出了一种双向长短期记忆网络(Bi-directional long short-term memory,BiLSTM)和胶囊网络(Capsule network,CapsNet)混合模型(BiLSTM-CapsNet)...社交文本的情感分析主要存在结构不规则、特征稀疏和分类效果不理想等问题。针对这些问题,提出了一种双向长短期记忆网络(Bi-directional long short-term memory,BiLSTM)和胶囊网络(Capsule network,CapsNet)混合模型(BiLSTM-CapsNet)。该模型先使用胶囊网络提取单个特征词在整个句子中的位置语义信息,再使用双向长短期记忆网络提取社交文本的上下文词语之间的关系,最后通过softmax分类器,进行情感倾向的分类。试验结果表明,该模型在粗粒度和细粒度情感分类中都有优势。展开更多
针对胶囊网络(CapsNet)在处理含有背景噪声信息的复杂图像时分类效果不佳且计算开销大的问题,提出一种基于注意力机制和权值共享的改进胶囊网络模型——共享转换矩阵胶囊网络(STM-CapsNet)。该模型主要包括以下改进:1)在特征提取层中引...针对胶囊网络(CapsNet)在处理含有背景噪声信息的复杂图像时分类效果不佳且计算开销大的问题,提出一种基于注意力机制和权值共享的改进胶囊网络模型——共享转换矩阵胶囊网络(STM-CapsNet)。该模型主要包括以下改进:1)在特征提取层中引入注意力模块,使低层胶囊能够聚焦于与分类任务相关的实体特征;2)将空间位置接近的低层胶囊分为若干组,每组内的低层胶囊通过共享转换矩阵映射到高层胶囊,降低计算开销,提高模型鲁棒性;3)在间隔损失与重构损失的基础上加入L2正则化项,防止模型过拟合。在CIFAR10、SVHN(Street View House Number)、FashionMNIST复杂图像数据集上的实验结果表明,各改进均能有效提升模型性能;当迭代次数为3,共享转换矩阵数为5时,STM-CapsNet模型的平均准确率分别为85.26%、93.17%、94.96%,平均参数量为8.29 MB,比基线模型的综合性能更优。展开更多
文摘社交文本的情感分析主要存在结构不规则、特征稀疏和分类效果不理想等问题。针对这些问题,提出了一种双向长短期记忆网络(Bi-directional long short-term memory,BiLSTM)和胶囊网络(Capsule network,CapsNet)混合模型(BiLSTM-CapsNet)。该模型先使用胶囊网络提取单个特征词在整个句子中的位置语义信息,再使用双向长短期记忆网络提取社交文本的上下文词语之间的关系,最后通过softmax分类器,进行情感倾向的分类。试验结果表明,该模型在粗粒度和细粒度情感分类中都有优势。
文摘针对胶囊网络(CapsNet)在处理含有背景噪声信息的复杂图像时分类效果不佳且计算开销大的问题,提出一种基于注意力机制和权值共享的改进胶囊网络模型——共享转换矩阵胶囊网络(STM-CapsNet)。该模型主要包括以下改进:1)在特征提取层中引入注意力模块,使低层胶囊能够聚焦于与分类任务相关的实体特征;2)将空间位置接近的低层胶囊分为若干组,每组内的低层胶囊通过共享转换矩阵映射到高层胶囊,降低计算开销,提高模型鲁棒性;3)在间隔损失与重构损失的基础上加入L2正则化项,防止模型过拟合。在CIFAR10、SVHN(Street View House Number)、FashionMNIST复杂图像数据集上的实验结果表明,各改进均能有效提升模型性能;当迭代次数为3,共享转换矩阵数为5时,STM-CapsNet模型的平均准确率分别为85.26%、93.17%、94.96%,平均参数量为8.29 MB,比基线模型的综合性能更优。
