针对大语言模型(LLM)在零样本重排序任务中存在的标签语义理解不足、关系建模模糊和计算成本过高的问题,提出基于层次过滤与标签语义扩展的重排序方法HFLS(Hierarchical Filtering and Label Semantics)。该方法构建多级标签语义扩展路...针对大语言模型(LLM)在零样本重排序任务中存在的标签语义理解不足、关系建模模糊和计算成本过高的问题,提出基于层次过滤与标签语义扩展的重排序方法HFLS(Hierarchical Filtering and Label Semantics)。该方法构建多级标签语义扩展路径,并设计“关键词匹配→语义关联→领域知识整合”的递进式提示策略引导LLM实现深度相关性推理;同时,引入分层过滤机制,在降低计算复杂度的同时保留高潜力候选文档。实验结果表明:在TRECDL2019等7个基准数据集上,HFLS相较于Pointwise.qg、Pointwise.yes_no和Pointwise.3Label等Pointwise方法的NDCG@10(归一化折损累积增益)指标分别平均提升了21.92%、13.43%和8.59%;而在推理效率方面,HFLS的单个查询处理时延较Listwise方法、Pairwise方法和Setwise方法分别降低了91.06%、68.87%和33.54%。展开更多
传统企业合作伙伴推荐方法过度依赖技术特征而忽视多维因素影响。本研究旨在探究企业合作关系的多维影响因素及推荐机制,为企业寻找合适合作伙伴和制定有效创新策略提供技术支持。本研究提出一种基于交叉多头对比学习网络(cross-attenti...传统企业合作伙伴推荐方法过度依赖技术特征而忽视多维因素影响。本研究旨在探究企业合作关系的多维影响因素及推荐机制,为企业寻找合适合作伙伴和制定有效创新策略提供技术支持。本研究提出一种基于交叉多头对比学习网络(cross-attention multi-head contrastive network,CAMC-Net)的企业合作伙伴推荐方法,融合企业、专利和政策数据,通过交叉多头注意力机制建模企业关系的双向互补特性,并引入对比学习策略优化企业表示空间分布。以新能源产业为例,在专利IPC(International Patent Classification)分类号为H02P和H10的企业合作数据集上进行验证,CAMC-Net模型在企业关系识别任务上AUC(area under the curve)分别达到0.9425和0.9251,准确率分别为0.8644和0.8387,F1值分别达到0.8707和0.8471,优于基线模型。通过消融实验证明了政策数据与模型组件的有效性。但现有的研究数据主要基于单一领域,未来需探索跨领域企业合作伙伴推荐方法;同时,模型缺乏对多模态数据的考虑,需要探索更高效的多模态特征融合策略。展开更多
随着社交网络平台和电子商务平台的崛起,工业级个性化推荐系统在移动互联网时代的作用日益显著,对提升用户浏览体验、购物体验以及扩大用户规模起到了不可替代的作用。在推荐系统中,模型发挥着至关重要的作用。随着算力和数据量的增长,...随着社交网络平台和电子商务平台的崛起,工业级个性化推荐系统在移动互联网时代的作用日益显著,对提升用户浏览体验、购物体验以及扩大用户规模起到了不可替代的作用。在推荐系统中,模型发挥着至关重要的作用。随着算力和数据量的增长,模型结构呈现复杂化、大型化趋势,推荐精准度相较于传统推荐模型也有显著提升。以GPT和DeepSeek为代表的大语言模型(large language model,LLM),不仅显著改善了语言模型的效果,而且助推了提示工程等训练范式的发展。LLM所具备的语义理解和内容生成能力,使其在工业级推荐系统中的落地应用正处于快速发展阶段。本文对LLM和推荐系统的结合点进行调研,梳理了LLM与工业级推荐系统的结合方式,并提出了对LLM和推荐系统结合的展望,以期利用LLM技术提升推荐模型的训练、推理效率和效果。展开更多
文摘针对大语言模型(LLM)在零样本重排序任务中存在的标签语义理解不足、关系建模模糊和计算成本过高的问题,提出基于层次过滤与标签语义扩展的重排序方法HFLS(Hierarchical Filtering and Label Semantics)。该方法构建多级标签语义扩展路径,并设计“关键词匹配→语义关联→领域知识整合”的递进式提示策略引导LLM实现深度相关性推理;同时,引入分层过滤机制,在降低计算复杂度的同时保留高潜力候选文档。实验结果表明:在TRECDL2019等7个基准数据集上,HFLS相较于Pointwise.qg、Pointwise.yes_no和Pointwise.3Label等Pointwise方法的NDCG@10(归一化折损累积增益)指标分别平均提升了21.92%、13.43%和8.59%;而在推理效率方面,HFLS的单个查询处理时延较Listwise方法、Pairwise方法和Setwise方法分别降低了91.06%、68.87%和33.54%。
文摘传统企业合作伙伴推荐方法过度依赖技术特征而忽视多维因素影响。本研究旨在探究企业合作关系的多维影响因素及推荐机制,为企业寻找合适合作伙伴和制定有效创新策略提供技术支持。本研究提出一种基于交叉多头对比学习网络(cross-attention multi-head contrastive network,CAMC-Net)的企业合作伙伴推荐方法,融合企业、专利和政策数据,通过交叉多头注意力机制建模企业关系的双向互补特性,并引入对比学习策略优化企业表示空间分布。以新能源产业为例,在专利IPC(International Patent Classification)分类号为H02P和H10的企业合作数据集上进行验证,CAMC-Net模型在企业关系识别任务上AUC(area under the curve)分别达到0.9425和0.9251,准确率分别为0.8644和0.8387,F1值分别达到0.8707和0.8471,优于基线模型。通过消融实验证明了政策数据与模型组件的有效性。但现有的研究数据主要基于单一领域,未来需探索跨领域企业合作伙伴推荐方法;同时,模型缺乏对多模态数据的考虑,需要探索更高效的多模态特征融合策略。
文摘随着社交网络平台和电子商务平台的崛起,工业级个性化推荐系统在移动互联网时代的作用日益显著,对提升用户浏览体验、购物体验以及扩大用户规模起到了不可替代的作用。在推荐系统中,模型发挥着至关重要的作用。随着算力和数据量的增长,模型结构呈现复杂化、大型化趋势,推荐精准度相较于传统推荐模型也有显著提升。以GPT和DeepSeek为代表的大语言模型(large language model,LLM),不仅显著改善了语言模型的效果,而且助推了提示工程等训练范式的发展。LLM所具备的语义理解和内容生成能力,使其在工业级推荐系统中的落地应用正处于快速发展阶段。本文对LLM和推荐系统的结合点进行调研,梳理了LLM与工业级推荐系统的结合方式,并提出了对LLM和推荐系统结合的展望,以期利用LLM技术提升推荐模型的训练、推理效率和效果。
