-
题名面向边缘智能的大模型研究进展
- 1
-
-
作者
王睿
张留洋
高志涌
姜彤雲
-
机构
北京科技大学计算机与通信工程学院
-
出处
《计算机研究与发展》
北大核心
2025年第10期2565-2582,共18页
-
基金
国家自然科学基金项目(62173158)。
-
文摘
随着大模型技术的迅猛发展,大模型在自然语言处理和计算机视觉等领域表现出卓越的性能,成为解决复杂问题的重要工具,并在科研和产业界引发了广泛关注.然而,当前基于云平台的大模型训练和推理方案面临诸多挑战,包括高昂的成本、有限的可扩展性和信息安全风险等.随着模型参数规模的不断扩大,对于低成本、高效训练和推理的需求愈发迫切.在端边侧进行大模型的协同训练和推理,可以显著降低延迟和带宽需求,同时增强数据隐私和操作效率,为大模型在多样化场景中的低成本应用提供关键技术支持,成为当前研究的热点之一.全面调研了面向边缘智能的大模型相关研究,主要从大模型边缘训练和推理2个角度对当前相关研究进行了深入分析和讨论.最后,提出了面向边缘智能的大模型技术发展所面临的挑战和未来展望,希望能促进学术界和产业界对面向边缘智能的大模型技术有更深入的了解和关注,并能够启发更多的学者深入开展研究.
-
关键词
边缘智能
大模型
大模型联邦微调
边缘高效推理
-
Keywords
edge intelligence
large models
federated fine-tuning of large models
edge efficient inference
-
分类号
TP393
[自动化与计算机技术—计算机应用技术]
-
