期刊导航
期刊开放获取
上海教育软件发展有限公..
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
1
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式：
文摘
详细
列表
相关度排序
被引量排序
时效性排序
基于反馈的大语言模型内容与行为对齐方法综述
1
作者
张钰莹
云静
+1 位作者
刘雪颖
史晓国
《计算机工程与应用》
北大核心
2025年第20期75-104,共30页
近年来,大语言模型在一系列任务中展现了卓越的自然语言理解、生成与推理能力。然而,为了确保其输出符合人类预设标准,对齐成为关键的解决方式。针对“内容对齐”和“行为对齐”两大核心目标,从概念框架、技术实现到评估方法进行了系统...
近年来,大语言模型在一系列任务中展现了卓越的自然语言理解、生成与推理能力。然而,为了确保其输出符合人类预设标准,对齐成为关键的解决方式。针对“内容对齐”和“行为对齐”两大核心目标,从概念框架、技术实现到评估方法进行了系统综述。明确了获取反馈的来源、格式及其使用目的,建立了基于反馈对齐的概念框架。按照大模型训练、推理和生成的顺序总结了现有的基于反馈对齐的方法。之后回顾了评估大模型的基本技术指标,以及相关的数据集与基准。总结了基于反馈的对齐方法在提升大语言模型性能方面的潜力,以及当前面临的重大挑战和关键问题。
展开更多
关键词
大语言模型(LLMs)
AI对齐
内容安全
评估基准
在线阅读
下载PDF
职称材料
题名
基于反馈的大语言模型内容与行为对齐方法综述
1
作者
张钰莹
云静
刘雪颖
史晓国
机构
内蒙古
工业大学数据科学与应用学院
内蒙古
自治区大数据软件服务工程技术研究中心
内蒙古北疆网络空间安全重点实验室
出处
《计算机工程与应用》
北大核心
2025年第20期75-104,共30页
基金
国家自然科学基金(62062055)
内蒙古高校青年科技英才项目(NJYT24061)
内蒙古自治区直属高校基本科研业务费项目(JY20230092)。
文摘
近年来,大语言模型在一系列任务中展现了卓越的自然语言理解、生成与推理能力。然而,为了确保其输出符合人类预设标准,对齐成为关键的解决方式。针对“内容对齐”和“行为对齐”两大核心目标,从概念框架、技术实现到评估方法进行了系统综述。明确了获取反馈的来源、格式及其使用目的,建立了基于反馈对齐的概念框架。按照大模型训练、推理和生成的顺序总结了现有的基于反馈对齐的方法。之后回顾了评估大模型的基本技术指标,以及相关的数据集与基准。总结了基于反馈的对齐方法在提升大语言模型性能方面的潜力,以及当前面临的重大挑战和关键问题。
关键词
大语言模型(LLMs)
AI对齐
内容安全
评估基准
Keywords
large language models(LLMs)
AI alignment
content security
evaluate benchmarks
分类号
TP391 [自动化与计算机技术—计算机应用技术]
在线阅读
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
基于反馈的大语言模型内容与行为对齐方法综述
张钰莹
云静
刘雪颖
史晓国
《计算机工程与应用》
北大核心
2025
0
在线阅读
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部
