期刊导航
期刊开放获取
上海教育软件发展有限公..
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
1
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式：
文摘
详细
列表
相关度排序
被引量排序
时效性排序
融合角色、结构和语义的口语对话预训练语言模型
被引量：
1
1
作者
黄健
李锋
《计算机应用研究》
CSCD
北大核心
2022年第8期2397-2402,共6页
口语语言理解是任务式对话系统的重要组件,预训练语言模型在口语语言理解中取得了重要突破,然而这些预训练语言模型大多是基于大规模书面文本语料。考虑到口语与书面语在结构、使用条件和表达方式上的明显差异,构建了大规模、双角色、...
口语语言理解是任务式对话系统的重要组件,预训练语言模型在口语语言理解中取得了重要突破,然而这些预训练语言模型大多是基于大规模书面文本语料。考虑到口语与书面语在结构、使用条件和表达方式上的明显差异,构建了大规模、双角色、多轮次、口语对话语料,并提出融合角色、结构和语义的四个自监督预训练任务:全词掩码、角色预测、话语内部反转预测和轮次间互换预测,通过多任务联合训练面向口语的预训练语言模型SPD-BERT(spoken dialog-BERT)。在金融领域智能客服场景的三个人工标注数据集--意图识别、实体识别和拼音纠错上进行详细的实验测试,实验结果验证了该语言模型的有效性。
展开更多
关键词
对话系统
口语语言理解
预训练语言模型
意图识别
实体识别
在线阅读
下载PDF
职称材料
题名
融合角色、结构和语义的口语对话预训练语言模型
被引量：
1
1
作者
黄健
李锋
机构
上海浦东发展银行股份有限公司创新实验室
出处
《计算机应用研究》
CSCD
北大核心
2022年第8期2397-2402,共6页
文摘
口语语言理解是任务式对话系统的重要组件,预训练语言模型在口语语言理解中取得了重要突破,然而这些预训练语言模型大多是基于大规模书面文本语料。考虑到口语与书面语在结构、使用条件和表达方式上的明显差异,构建了大规模、双角色、多轮次、口语对话语料,并提出融合角色、结构和语义的四个自监督预训练任务:全词掩码、角色预测、话语内部反转预测和轮次间互换预测,通过多任务联合训练面向口语的预训练语言模型SPD-BERT(spoken dialog-BERT)。在金融领域智能客服场景的三个人工标注数据集--意图识别、实体识别和拼音纠错上进行详细的实验测试,实验结果验证了该语言模型的有效性。
关键词
对话系统
口语语言理解
预训练语言模型
意图识别
实体识别
Keywords
dialog systems
spoken language understanding
pre-trained language model
intent detection
named entity recognition
分类号
TP183 [自动化与计算机技术—控制理论与控制工程]
在线阅读
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
融合角色、结构和语义的口语对话预训练语言模型
黄健
李锋
《计算机应用研究》
CSCD
北大核心
2022
1
在线阅读
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部
