接诉即办是实现社会治理智能化、提高人民满意度的重要举措,其中精准分析民众诉求智能匹配工单处理部门,实现诉求的快速响应、高效办理尤为关键;然而,民众诉求数据中的诉求描述不清晰、类别混淆且比例失衡会导致诉求类别分析困难,影响...接诉即办是实现社会治理智能化、提高人民满意度的重要举措,其中精准分析民众诉求智能匹配工单处理部门,实现诉求的快速响应、高效办理尤为关键;然而,民众诉求数据中的诉求描述不清晰、类别混淆且比例失衡会导致诉求类别分析困难,影响了智能派单的效率与准确性。针对上述问题,提出编解码器结构的诉求层次多标签分类模型(HMCHotline)。首先,在文本编码器中引入诉求领域中的细粒度关键词先验知识以抑制噪声干扰,并融合诉求的时空信息提高语义特征的判别力;其次,利用标签层次结构生成具有层次与语义感知的标签嵌入,并构建基于Transformer模型的标签解码器,利用诉求的语义特征和标签嵌入进行标签解码;同时,在标签的层级依赖关系基础上引入动态标签表策略限制标签的解码范围,以解决标签不一致问题;最后,采用Softmax分组策略将样本数量相近的标签类别分为同组进行Softmax操作,从而缓解由标签长尾分布导致的分类准确率低的问题。在Hotline、RCV1(Reuters Corpus VolumeⅠ)-v2和WOS(Web Of Science)数据集上的实验结果表明,相较于层次感知的标签语义匹配网络(HiMatch),所提模型的Micro-F1分别提高了1.65、2.06和0.43个百分点,验证了模型的有效性。展开更多
交替方向乘子法(Alternating Direction Method of Multiplier,ADMM)因具有线性规划(Linear Programming,LP)译码条件约束的几何结构,同时利用了消息传递机制,被认为是一种第5代移动通信技术(5th Generation Mobile Communication Techn...交替方向乘子法(Alternating Direction Method of Multiplier,ADMM)因具有线性规划(Linear Programming,LP)译码条件约束的几何结构,同时利用了消息传递机制,被认为是一种第5代移动通信技术(5th Generation Mobile Communication Technology,5G)低密度校验(Low Density Parity Check,LDPC)码新型优化译码算法。通过在LP译码模型的目标函数中引入惩罚项,基于ADMM的变量节点惩罚译码有效地减轻了非积分解,从而提高了误帧率(Frame Error Rate,FER)性能。尽管ADMM在许多实际应用中表现出色,其收敛速度较慢以及对初始条件和参数设置敏感的问题仍然限制了其在高维、实时性要求高的场景中的进一步应用。特别是在LDPC线性规划译码过程中,ADMM的交替更新机制容易导致优化路径振荡,且在处理非精确约束时表现不佳。针对ADMM算法收敛速度慢的问题,我们提出了一种新的优化算法,该算法将Nesterov动量加速方法与ADMM相结合,以解决ADMM对LDPC译码器错误修正能力和收敛效率的影响。算法通过动量项减少迭代次数将一个Nesterov加速格式从无约束复合优化问题推广到ADMM惩罚函数模型,利用ADMM算法将原问题的约束条件有效转化为目标函数的一部分,从而构造出无约束优化子问题;在此基础上,进一步采用Nesterov加速技术对梯度下降迭代过程进行改进,以提高收敛速度和求解精度。仿真实验使用了三种不同码率的5G LDPC短码。结果表明,相对于现有ADMM惩罚译码算法,所提出的基于动量加速的ADMM译码算法不仅有大约0.2 dB的信噪比增益,而且平均迭代次数也降低了20%左右,加快了收敛速度。展开更多
文摘接诉即办是实现社会治理智能化、提高人民满意度的重要举措,其中精准分析民众诉求智能匹配工单处理部门,实现诉求的快速响应、高效办理尤为关键;然而,民众诉求数据中的诉求描述不清晰、类别混淆且比例失衡会导致诉求类别分析困难,影响了智能派单的效率与准确性。针对上述问题,提出编解码器结构的诉求层次多标签分类模型(HMCHotline)。首先,在文本编码器中引入诉求领域中的细粒度关键词先验知识以抑制噪声干扰,并融合诉求的时空信息提高语义特征的判别力;其次,利用标签层次结构生成具有层次与语义感知的标签嵌入,并构建基于Transformer模型的标签解码器,利用诉求的语义特征和标签嵌入进行标签解码;同时,在标签的层级依赖关系基础上引入动态标签表策略限制标签的解码范围,以解决标签不一致问题;最后,采用Softmax分组策略将样本数量相近的标签类别分为同组进行Softmax操作,从而缓解由标签长尾分布导致的分类准确率低的问题。在Hotline、RCV1(Reuters Corpus VolumeⅠ)-v2和WOS(Web Of Science)数据集上的实验结果表明,相较于层次感知的标签语义匹配网络(HiMatch),所提模型的Micro-F1分别提高了1.65、2.06和0.43个百分点,验证了模型的有效性。
文摘交替方向乘子法(Alternating Direction Method of Multiplier,ADMM)因具有线性规划(Linear Programming,LP)译码条件约束的几何结构,同时利用了消息传递机制,被认为是一种第5代移动通信技术(5th Generation Mobile Communication Technology,5G)低密度校验(Low Density Parity Check,LDPC)码新型优化译码算法。通过在LP译码模型的目标函数中引入惩罚项,基于ADMM的变量节点惩罚译码有效地减轻了非积分解,从而提高了误帧率(Frame Error Rate,FER)性能。尽管ADMM在许多实际应用中表现出色,其收敛速度较慢以及对初始条件和参数设置敏感的问题仍然限制了其在高维、实时性要求高的场景中的进一步应用。特别是在LDPC线性规划译码过程中,ADMM的交替更新机制容易导致优化路径振荡,且在处理非精确约束时表现不佳。针对ADMM算法收敛速度慢的问题,我们提出了一种新的优化算法,该算法将Nesterov动量加速方法与ADMM相结合,以解决ADMM对LDPC译码器错误修正能力和收敛效率的影响。算法通过动量项减少迭代次数将一个Nesterov加速格式从无约束复合优化问题推广到ADMM惩罚函数模型,利用ADMM算法将原问题的约束条件有效转化为目标函数的一部分,从而构造出无约束优化子问题;在此基础上,进一步采用Nesterov加速技术对梯度下降迭代过程进行改进,以提高收敛速度和求解精度。仿真实验使用了三种不同码率的5G LDPC短码。结果表明,相对于现有ADMM惩罚译码算法,所提出的基于动量加速的ADMM译码算法不仅有大约0.2 dB的信噪比增益,而且平均迭代次数也降低了20%左右,加快了收敛速度。
