6G网络中分布式AI模型协同技术综述

1

作者 张秀贤 朱晓荣 《移动通信》 2025年第1期43-51,共9页

分布式网络人工智能模型协同技术是分布式数据安全流通的底层支撑,是实现6G网络智慧内生的关键技术。对6G网络中的模型协同技术进行了全面的综述。回顾了中心侧大模型中,数据并行、模型并行及混合并行等模型协同技术。面对边缘智能中边... 分布式网络人工智能模型协同技术是分布式数据安全流通的底层支撑,是实现6G网络智慧内生的关键技术。对6G网络中的模型协同技术进行了全面的综述。回顾了中心侧大模型中,数据并行、模型并行及混合并行等模型协同技术。面对边缘智能中边缘节点算力及内存不足、通信带宽受限的问题,从拆分学习、联邦学习、拆分联邦学习、分布式群体学习等几个方面探讨总结了边缘智能的模型协同技术。最后,强调了在6G网络中,为了不重复训练相似的大模型,需要大小模型协同进化。 展开更多

关键词 分布式ai 6G 模型协同 大模型

在线阅读 下载PDF 职称材料

无线算力网络中面向AI任务的分布式通信计算协同研究

2

作者 张申虎 杨蕊侨 +1 位作者 谢云菁 闫实 《移动通信》 2025年第3期37-45,共9页

通过汇聚通信、计算与模型能力,6G网络主动式能够提供分布式的高效、实时且节能的AI服务能力。无线算力网络作为其基础底座,通过按需适时的算力服务和合理的分布式通信计算协同设计,有望成为未来移动AI业务极高算力需求的重要支撑方案... 通过汇聚通信、计算与模型能力,6G网络主动式能够提供分布式的高效、实时且节能的AI服务能力。无线算力网络作为其基础底座,通过按需适时的算力服务和合理的分布式通信计算协同设计,有望成为未来移动AI业务极高算力需求的重要支撑方案。首先对典型的协同模式进行分类与分析,包括集中式模式、分层分簇模式、去中心式模式和边缘分布式协同模式;其次,综述了主要的分布式训练与推理方法,涵盖联邦学习、拆分学习、模型优化与协同推理以及多智能体深度强化学习;最后,从AI任务准确率、时延、密度及能效等方面设计了评价指标体系,为移动AI任务的性能研究与评估提供重要参考。 展开更多

关键词 6G 移动ai任务 分布式训练 协同推理

在线阅读 下载PDF 职称材料

支持大模型分布式训练的光传输网络技术探索

3

作者 李俊杰 刘宇旸 霍晓莉 《信息通信技术》 2024年第6期4-13,共10页

随着人工智能技术的发展,大型语言模型(LLM,例如Chat-GPT等)在多个应用场景中展现出卓越的应用前景,得到了迅猛发展。然而,随着模型规模的不断增大,训练这些大规模模型所需的计算资源和时间也呈现爆炸式增长,智算中心集群规模向着十万... 随着人工智能技术的发展,大型语言模型(LLM,例如Chat-GPT等)在多个应用场景中展现出卓越的应用前景,得到了迅猛发展。然而,随着模型规模的不断增大,训练这些大规模模型所需的计算资源和时间也呈现爆炸式增长,智算中心集群规模向着十万卡级甚至百万卡级加速演进。在此情况下,多数据中心的分布式训练成为重要的发展方向。光传输网络由于其超大带宽、超高可靠与超低时延等特性成为了分布式训练中海量数据的承载底座。文章从大模型训练的需求分析出发,介绍主流公司的训练能力与现状,并针对适用于多数据中心分布式训练的光传输网络技术进行分析与展望。 展开更多

关键词 大模型 分布式训练 智算中心 光传输网络 800Gbit/s 多波段

在线阅读 下载PDF 职称材料

Cloudless-Training:基于serverless的高效跨地域分布式ML训练框架

4

作者 谭文婷 吕存驰 +1 位作者 史骁 赵晓芳 《高技术通讯》 CAS 北大核心 2024年第3期219-232,共14页

跨地域分布式机器学习(ML)训练能够联合多区域的云资源协作训练,可满足许多新兴ML场景(比如大型模型训练、联邦学习)的训练需求。但其训练效率仍受2方面挑战的制约。首先,多区域云资源缺乏有效的弹性调度,这会影响训练的资源利用率和性... 跨地域分布式机器学习(ML)训练能够联合多区域的云资源协作训练,可满足许多新兴ML场景(比如大型模型训练、联邦学习)的训练需求。但其训练效率仍受2方面挑战的制约。首先,多区域云资源缺乏有效的弹性调度,这会影响训练的资源利用率和性能;其次,模型跨地域同步需要在广域网(WAN)上高频通信,受WAN的低带宽和高波动的影响,会产生巨大通信开销。本文提出Cloudless-Training,从3个方面实现高效的跨地域分布式ML训练。首先,它基于serverless计算模式实现,使用控制层和训练执行层的2层架构,支持多云区域的弹性调度和通信。其次,它提供一种弹性调度策略,根据可用云资源的异构性和训练数据集的分布自适应地部署训练工作流。最后,它提供了2种高效的跨云同步策略,包括基于梯度累积的异步随机梯度下降(ASGD-GA)和跨云参数服务器(PS)间的模型平均(MA)。Cloudless-Training是基于OpenFaaS实现的,并被部署在腾讯云上评估,实验结果表明Cloudless-Training可显著地提高跨地域分布式ML训练的资源利用率(训练成本降低了9.2%~24.0%)和同步效率(训练速度最多比基线快1.7倍),并能保证模型的收敛精度。 展开更多

关键词 跨地域分布式机器学习(ML)训练 跨云ML训练 分布式训练框架 serverless 跨云模型同步

在线阅读 下载PDF 职称材料

基于改进LSTM-TCN模型的分布式光伏功率预测研究 被引量：3

5

作者 陈建军 李良杰 卢泽汉 《电子设计工程》 2024年第16期187-190,195,共5页

光伏发电受天气因素的影响,造成供电的稳定性降低,使得光伏功率预测准确性不高。为保证供电服务质量,提出一种基于改进LSTM-TCN的预测模型。利用灰色关联度算法选取光伏功率影响因素,通过相似度计算,获取分布式光伏功率值,组成训练样本... 光伏发电受天气因素的影响,造成供电的稳定性降低,使得光伏功率预测准确性不高。为保证供电服务质量,提出一种基于改进LSTM-TCN的预测模型。利用灰色关联度算法选取光伏功率影响因素,通过相似度计算,获取分布式光伏功率值,组成训练样本数据。将LSTM与TCN结合,构建改进LSTM-TCN预测模型,并通过模型训练,得到成熟的预测模型。实验结果表明,所研究模型预测结果的平均平方差和平均绝对误差率分别为0.562 6 kW和2.653 2%,远低于另外两种对比方法,表明所提方法的功率预测准确性高。 展开更多

关键词 改进LSTM-TCN模型 分布式光伏功率 训练样本数据 预测模型

在线阅读 下载PDF 职称材料

基于HLA的某型机动指挥分布式训练模拟系统设计 被引量：4

6

作者 夏薇 慕晓冬 +1 位作者 魏鸿毅 梁洪波 《火力与指挥控制》 CSCD 北大核心 2009年第6期135-137,140,共4页

在分析某型机动指挥系统的操作规程和部队需求的基础上,将训练模拟器和先进的计算机仿真技术结合起来,设计了基于HLA的训练、考核和管理仿真系统,以较小的代价解决部队的实际训练需求。针对该武器装备操作训练的特点,重点介绍了仿真联... 在分析某型机动指挥系统的操作规程和部队需求的基础上,将训练模拟器和先进的计算机仿真技术结合起来,设计了基于HLA的训练、考核和管理仿真系统,以较小的代价解决部队的实际训练需求。针对该武器装备操作训练的特点,重点介绍了仿真联邦的设计以及成员对象模型SOM和联邦对象模型FOM的设计与实现。 展开更多

关键词 高层体系结构 分布式训练模拟 对象模型模板

在线阅读 下载PDF 职称材料

综合通信训练模拟系统短波信道分布式实时仿真方法

7

作者 刘翠海 王文清 《现代电子技术》 2008年第17期25-27,30,共4页

从短波信道对信号传输的影响分析入手,介绍了无线电波通过媒质产生失真的原因,并对等效离散时间数学模型的结构和算法以及信道仿真的关键技术进行了分析与研究。针对综合通信训练模拟系统结构复杂、数据运算量大、实时性要求高等难题,... 从短波信道对信号传输的影响分析入手,介绍了无线电波通过媒质产生失真的原因,并对等效离散时间数学模型的结构和算法以及信道仿真的关键技术进行了分析与研究。针对综合通信训练模拟系统结构复杂、数据运算量大、实时性要求高等难题,给出了一种分布式仿真的设计方案。该方案充分利用了综合通信训练模拟系统中的计算机资源,实现了对传输信号的实时处理,能够实时模拟短波通信信道环境。 展开更多

关键词 分布式仿真 短波信道模型 短波信道模拟 通信训练

在线阅读 下载PDF 职称材料

基于预训练大模型的AI虚拟主播定制系统设计

8

作者 魏元恺 蔡新宇 +3 位作者 夏宇闻 路倩倩 陈佳丽 吴林韩 《现代信息科技》 2024年第19期62-68,共7页

随着直播行业发展,AI虚拟主播逐渐普及,仍存在交互生硬和形象僵化问题。聚焦用户痛点,依托预训练大模型,文章设计一款虚拟主播定制系统,支持角色认知、声音和形象等个性化定制,能够面向用户需求扮演角色、更换声音、生成形象,既能够打... 随着直播行业发展,AI虚拟主播逐渐普及,仍存在交互生硬和形象僵化问题。聚焦用户痛点,依托预训练大模型,文章设计一款虚拟主播定制系统,支持角色认知、声音和形象等个性化定制,能够面向用户需求扮演角色、更换声音、生成形象,既能够打造虚拟主播IP,显著增强产品亲和力,为观众提供一个丰富多样的直播互动场景,还可以成为人们日常生活中不可或缺的智能助手。 展开更多

关键词 预训练大模型 ai虚拟主播 个性化定制

在线阅读 下载PDF 职称材料

基于通信运营商IT系统场景的AI大模型应用实践 被引量：1

9

作者 方晓楠 李玮 +2 位作者 许维鹏 李岳梦 顾欣 《电信工程技术与标准化》 2024年第6期86-92,共7页

随着AI技术的不断发展,通信运营商越来越多地将AI大模型引入其IT系统,以提升效率、改善服务和增强用户体验。本文通过构建运营商IT系统中的AI大模型体系及AI大模型的实践案例来展示AI大模型在通信运营商IT系统中的实际应用效果和优势。... 随着AI技术的不断发展,通信运营商越来越多地将AI大模型引入其IT系统,以提升效率、改善服务和增强用户体验。本文通过构建运营商IT系统中的AI大模型体系及AI大模型的实践案例来展示AI大模型在通信运营商IT系统中的实际应用效果和优势。同时,在AI大模型的应用过程中也暴露出一些问题和挑战。本文通过深入探讨这些问题可以更好地了解AI大模型在通信运营商IT系统中的应用现状、优势和挑战,为未来的研究和实践提供重要参考。 展开更多

关键词 模型训练 ai大模型体系架构 大模型应用

在线阅读 下载PDF 职称材料

面向分布式机器学习的网络模态创新 被引量：4

10

作者 郭泽华 朱昊文 徐同文 《电信科学》 2023年第6期44-51,共8页

分布式机器学习作为人工智能的主流计算架构,目前仍然存在数据性能传输不高、模型训练速度慢等缺陷,传统的网络模态无法满足分布式机器学习场景的通信语义,继而无法解决这些缺陷以进一步提升模型训练性能。采用多模态网络技术,基于应用... 分布式机器学习作为人工智能的主流计算架构,目前仍然存在数据性能传输不高、模型训练速度慢等缺陷,传统的网络模态无法满足分布式机器学习场景的通信语义,继而无法解决这些缺陷以进一步提升模型训练性能。采用多模态网络技术,基于应用特点设计了面向分布式机器学习场景的新型网络模态及其运行逻辑,为多模态网络技术在垂直行业的应用提供了借鉴意义。 展开更多

关键词 多模态网络 分布式机器学习 模型训练 人工智能

在线阅读 下载PDF 职称材料

分布式深度学习研究

11

作者 辜阳 杨大为 《科技创新与应用》 2017年第29期7-7,10,共2页

传统单机深度学习模型的训练耗时,动辄花费一周甚至数月的时间,让研究者望而却步,因此深度学习并行训练的方法被提出,用来加速深度学习算法的学习过程。文章首先分析了为什么要实现分布式训练,然后分别介绍了基于模型并行和数据并行两... 传统单机深度学习模型的训练耗时,动辄花费一周甚至数月的时间,让研究者望而却步,因此深度学习并行训练的方法被提出,用来加速深度学习算法的学习过程。文章首先分析了为什么要实现分布式训练,然后分别介绍了基于模型并行和数据并行两种主要的分布式深度学习框架,最后对两种不同的分布式深度学习框架的优缺点进行比较,得出结论。 展开更多

关键词 深度学习 分布式训练 模型并行 数据并行

在线阅读 下载PDF 职称材料

面向异构无线算网的高效大模型微调方法

12

作者 高瀏 刘喜庆 +1 位作者 高镝翔 夏年 《移动通信》 2025年第3期92-99,共8页

随着大语言模型(LAMs,Large Artificial-Intelligence Models)的崛起,其卓越的自然语言处理能力受到广泛关注,但其庞大的计算需求使得微调的计算开销巨大。尽管移动终端算力不断提升,但仅依赖终端难以满足LAMs的计算需求。传统做法是将... 随着大语言模型(LAMs,Large Artificial-Intelligence Models)的崛起,其卓越的自然语言处理能力受到广泛关注,但其庞大的计算需求使得微调的计算开销巨大。尽管移动终端算力不断提升,但仅依赖终端难以满足LAMs的计算需求。传统做法是将这庞大的计算任务卸载到云服务器上。但这会面临用户数据隐私泄露、主干网堵塞等问题。随着无线算力网络的发展,算力资源越来越多地分布在边缘侧,使得微调任务在边缘处理成为可能。这种方式既可以减少云卸载带来的主干网络流量压力,又能提高无线算网节点的算力利用率。但单一节点仍然面临算力有限与LAMs庞大计算量之间的矛盾。为了解决这个问题,针对以Transformer为基础的大语言模型,提出了一种基于分割学习的分布式并行微调及部署方法。实验表明通过分布式并行计算,这种方法最大化了系统内异构无线算网节点的算力利用率,实现了高效的大语言模型微调。而将一小部分计算任务部署在终端,使得原始用户数据不用上传至无线节点中,避免了原始数据的泄漏。 展开更多

关键词 ai大模型 分布式训练 分割学习 无线算力网络 能效

在线阅读 下载PDF 职称材料

基于AI技术的高速公路交通引流系统设计与应用

13

作者 曹峰 刘阳 +1 位作者 李涛涛 马建磊 《中国交通信息化》 2025年第3期86-88,共3页

受实时路况变化的影响,对应的交通流量可能出现不同程度的拥堵。为解决这一问题,本文提出基于AI技术的高速公路交通引流系统,从硬件、软件两方面对系统进行了设计,并对系统应用效果进行了分析。数据表明,测试路段的高峰小时流量明显提升... 受实时路况变化的影响,对应的交通流量可能出现不同程度的拥堵。为解决这一问题,本文提出基于AI技术的高速公路交通引流系统,从硬件、软件两方面对系统进行了设计,并对系统应用效果进行了分析。数据表明,测试路段的高峰小时流量明显提升,可有效改善交通通行效率,具有良好的应用价值。 展开更多

关键词 ai技术 高速公路交通引流 8路ai边缘微服务器 ai智能分布式节点 宏观流体模型 状态量协同

在线阅读 下载PDF 职称材料

AI算力回归平价 云产业链格局重塑

14

作者 王柄根 《股市动态分析》 2025年第2期44-45,共2页

以DeepSeek为代表的高效、开源的大语言模型的出现,令AI算力的需求和应用也随之发生显著变化。DeepSeek的出现,意味着可以通过高效的训练方法让算力门槛显著降低,让AI算力回归平价,海量算力的重新定价也将重塑云厂商市场格局。据国内AI... 以DeepSeek为代表的高效、开源的大语言模型的出现,令AI算力的需求和应用也随之发生显著变化。DeepSeek的出现,意味着可以通过高效的训练方法让算力门槛显著降低,让AI算力回归平价,海量算力的重新定价也将重塑云厂商市场格局。据国内AI产品榜统计数据,DeepSeek应用自2025年1月11日发布,在1月份累计获得1.25亿用户,其中80%以上用户来自最后一周,即7天内完成了1亿用户的增长。云厂商纷纷接入DeepSeek等模型,随着调用量的增加,不同规模的厂商都能因算力需求增长而获得业务机会。 展开更多

关键词 统计数据 语言模型 ai 产业链 平价 市场格局 回归 训练方法

在线阅读 下载PDF 职称材料

AIS数据在航海模拟器交互训练中的应用

15

作者 马建斌 王凤武 +1 位作者 李江 齐壮 《舰船科学技术》 北大核心 2016年第S1期221-225,共5页

通过对新加坡海峡内航行船舶的AIS历史数据进行统计,提出一种元胞自动机的船舶交互仿真模型,应用于新加坡海峡各航段的交通流的交互状况进行模拟。并采用蒙特卡洛随机事件,结合新加坡海峡AIS历史数据按照统计学原理生成不同类型、不同... 通过对新加坡海峡内航行船舶的AIS历史数据进行统计,提出一种元胞自动机的船舶交互仿真模型,应用于新加坡海峡各航段的交通流的交互状况进行模拟。并采用蒙特卡洛随机事件,结合新加坡海峡AIS历史数据按照统计学原理生成不同类型、不同航行速度的船舶,提取船舶驾驶员在不同航行环境下采取的避让措施。对海员在狭水道和繁忙水域的船舶交互避让提供参考依据,同时也对提高模拟器训练与航海实践的仿真度具有重要意义。 展开更多

关键词 新加坡海峡 aiS数据 元胞自动机模型 蒙特卡洛随机事件 模拟器交互训练

在线阅读 下载PDF 职称材料

鹏程·盘古:大规模自回归中文预训练语言模型及应用 被引量：6

16

作者 曾炜 苏腾 +2 位作者 王晖 田永鸿 高文 《中兴通讯技术》 2022年第2期33-43,共11页

在鹏城云脑Ⅱ上训练了全球首个拥有全开源2000亿参数的自回归中文预训练语言大模型——鹏程·盘古。鹏程·盘古模型基于1.1 TB高质量中文训练数据,采用全场景人工智能计算框架MindSpore自动并行技术实现了五维并行训练策略,从... 在鹏城云脑Ⅱ上训练了全球首个拥有全开源2000亿参数的自回归中文预训练语言大模型——鹏程·盘古。鹏程·盘古模型基于1.1 TB高质量中文训练数据,采用全场景人工智能计算框架MindSpore自动并行技术实现了五维并行训练策略,从而可将训练任务高效扩展到4096个处理器上。对比实验表明,在少样本或零样本情况下,鹏程·盘古模型在多个中文自然语言理解或生成任务上都具有较优的性能。在此基础上,鹏程·盘古模型在大模型压缩、提示微调学习、多任务学习以及持续学习等方面也取得了很好的应用效果。 展开更多

关键词 大规模预训练语言模型 鹏城云脑Ⅱ 大规模分布式训练 中文理解与生成 提示微调学习

在线阅读 下载PDF 职称材料

基于AI技术的项目安全监测系统开发

17

作者 张振辉 《建筑技术开发》 2024年第S1期131-137,共7页

项目安全施工是项目管理的首要任务,项目安全管理必须始终贯彻本质安全的要求,安全第一、预防为主。随着科学技术进步,AI技术不断应用到各个行业。本文基于AI技术对项目安全设施(安全帽、反光背心等)、火灾(烟雾、火光)等进行识别、报警... 项目安全施工是项目管理的首要任务,项目安全管理必须始终贯彻本质安全的要求,安全第一、预防为主。随着科学技术进步,AI技术不断应用到各个行业。本文基于AI技术对项目安全设施(安全帽、反光背心等)、火灾(烟雾、火光)等进行识别、报警,将安全隐患消灭于萌芽状态,切实保证项目施工安全。 展开更多

关键词 ai YOLO PyTorch Visual Studio2022 SQL 计算机视觉技术 人脸识别 模型训练 ML onnx 识别 报警

在线阅读 下载PDF 职称材料

基于AI的5G自智网络异动检测与应用

18

作者 李军 《电信工程技术与标准化》 2024年第5期43-47,共5页

当前多层网络并存,结构复杂,网络维护面临挑战。本文提出基于AI的5G自智网络异动检测方案,通过搭建关键性能指标动态预警体系,实时洞察5G网络质量问题,精准分析定位问题根因,提供7×24h的网络关键指标自动监控。应用效果验证表明,... 当前多层网络并存,结构复杂,网络维护面临挑战。本文提出基于AI的5G自智网络异动检测方案,通过搭建关键性能指标动态预警体系,实时洞察5G网络质量问题,精准分析定位问题根因,提供7×24h的网络关键指标自动监控。应用效果验证表明,异动检测问题定位准确率可达到92%,大幅提升维护优化现场分析解决问题效率和质量,支持5G自智网络实现智能化运维的目标。 展开更多

关键词 ai 自智网络 异动检测 模型训练 根因定位

在线阅读 下载PDF 职称材料

基于AIS算法和Lambda的医学图书馆推荐系统构建

19

作者 张炯娜 王若瑶 何晓茜 《信息技术》 2024年第12期80-85,92,共7页

文中提出了一种基于人工免疫系统(AIS)算法和Lambda架构的医学图书馆智能推荐系统。该系统通过提取用户的浏览历史、阅读习惯等特征,构建用户兴趣模型。然后基于AIS算法的免疫克隆选择机制产生个性化的推荐结果。同时,系统采用Lambda架... 文中提出了一种基于人工免疫系统(AIS)算法和Lambda架构的医学图书馆智能推荐系统。该系统通过提取用户的浏览历史、阅读习惯等特征,构建用户兴趣模型。然后基于AIS算法的免疫克隆选择机制产生个性化的推荐结果。同时,系统采用Lambda架构实现了实时推荐功能。实验结果显示,与基于协同过滤的推荐系统相比,该系统的推荐精度可达73%,召回率达72%。实时推荐的延迟在毫秒级,满足图书馆用户的实时性需求。该系统为用户提供了及时、个性化的医学图书馆推荐服务,提高了图书馆利用率和读者满意度。 展开更多

关键词 aiS算法 Lambda架构 医学图书馆智能推荐系统 模型训练 个性化推荐

在线阅读 下载PDF 职称材料

AI加持下传统文化的创造性转化

20

作者 蔡恒进 蔡天琪 《长江文艺评论》 2024年第1期23-25,共3页

一、人工智能技术的跃进人工智能(AI)技术的蓬勃发展,推动着我们迈向前所未有的时代。从最初的机器学习阶段,到如今引领潮流的深度学习技术,AI已经在诸多领域展现出了令人瞩目的成就。人工智能技术的快速跃迁,不仅改变了我们的生活方式... 一、人工智能技术的跃进人工智能(AI)技术的蓬勃发展,推动着我们迈向前所未有的时代。从最初的机器学习阶段,到如今引领潮流的深度学习技术,AI已经在诸多领域展现出了令人瞩目的成就。人工智能技术的快速跃迁,不仅改变了我们的生活方式,也深刻地影响着传统文化的发展和传承。机器学习的初级阶段,为AI的发展奠定了基础。通过训练模型处理和解释数据,机器从而实现了一些基本的自动化任务。 展开更多

关键词 人工智能技术 机器学习 创造性转化 训练模型 ai 解释数据 发展和传承 初级阶段

在线阅读 下载PDF 职称材料