-
题名大小模型协同的小样本知识图谱问答问题自动生成方法
被引量：1
- 1
-
-
作者
赵润豪
曾维新
唐九阳
吴继冰
黄宏斌
-
机构
国防科技大学系统工程学院大数据与决策实验室
-
出处
《指挥与控制学报》
北大核心
2025年第2期172-180,共9页
-
基金
国家重点研发计划(2022YFB3103600)
国家自然科学基金(62302513,62272469)资助。
-
文摘
为解决现实知识图谱问题生成技术的低成本部署和生成可靠性的问题,提出大小模型协同的小样本知识图谱问题生成方法,通过构建OODA环思维链和小模型高效部署设计,可支撑资源匮乏作战场景下低成本部署和准确可控生成。该方法的先进性在多个公共数据集和军事场景得到验证。为解决资源匮乏作战场景下部署难、生成难以控制的难题提供可行路径。
-
关键词
资源匮乏作战场景
大小模型协同
OODA环思维链
低成本部署
准确可控生成
-
Keywords
resource-scarce combat scenarios
small and large model collaboration
OODA loop chain of thought
low-cost deployment
accurate and controllable generation
-
分类号
TP391.1
[自动化与计算机技术—计算机应用技术]
-
-
题名云边协同大模型块粒度重训方法
- 2
-
-
作者
张青龙
韩锐
刘驰
-
机构
北京理工大学计算机学院
-
出处
《电子学报》
北大核心
2025年第2期287-300,共14页
-
基金
国家重点研发计划(No.2023YFE0209100)
国家自然科学基金(No.62272046,No.62132019,No.61872337)。
-
文摘
边缘侧大模型外部环境的不确定性(如路边摄像头画面中天气、光照、物体密度的变化),导致其输入数据分布持续改变,因此需进行重训以维持高精度.受限于设备可用资源和重训窗口,现有技术仅能训练固定压缩模型,其有限的泛化能力导致模型精度显著降低.本文提出云边协同大模型块粒度重训方法,引入模型重训缩放定律评估不同块对边缘侧当前数据的精度贡献,以此为依据生成有限资源下最优重训方案,将云平台大模型中精度最相关部分动态转换为边缘侧可重训小模型,构建大小模型协同训练系统.真实云边平台上对比实验表明,本文方法可以在相同资源消耗下提升大模型重训精度81.24%,并支持最大至330亿参数大模型重训.
-
关键词
大模型
边缘侧动态环境
模型重训
缩放定律
云边大小模型协同训练
-
Keywords
foundation model
dynamic environment at edge
model retraining
scaling law
edge-cloud collaborative retraining of large and small models
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名基于富语义词元的大模型生成策略优化
- 3
-
-
作者
程齐凯
石湘
于丰畅
黄圣智
-
机构
武汉大学信息管理学院
武汉大学智能与创新治理研究所
-
出处
《情报学报》
北大核心
2025年第6期761-782,共22页
-
基金
新一代人工智能国家科技重大专项项目“高可靠科技文献智能引擎关键技术研发与示范应用”(2023ZD0121500)
国家自然科学基金面上项目“基于机器阅读理解的科学命题文本论证逻辑识别”(72174157)。
-
文摘
近年来,通用大模型技术取得了显著进展,但在科技情报领域的应用中,仍面临推理效率低下和领域任务适配性不足的问题。为此,本文系统地分析了大模型的生成机制,并提出了“富语义词元”概念,旨在描述大模型在生成过程中倾向产生的、具有语义聚合性、上下文依赖性或任务相关性的词元或词元序列。基于该概念,本文设计了一种基于生成偏好的大小模型协同生成策略。通过富语义词元的挖掘、复制机制及动态验证策略,实现在小模型与大模型之间的协同作用,推动大模型由逐词元生成向多个词元同步生成的转变,从而提升生成效率与任务适配性。本文从生成性能、泛用性和生成效率三个维度对该生成优化策略进行了评估。研究结果表明,该策略在法律、医学和新闻百科等多个领域任务中的评估指标均优于传统生成优化方法。本文为大模型生成优化、任务适配性提升以及可信可靠大模型构建提供了新的理论基础和实践路径。
-
关键词
富语义词元
大小模型协同
生成优化
动态投机采样
-
Keywords
rich semantic tokens
large-small model collaboration
generation optimization
dynamic speculative sampling
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名端云协同智能计算的关键问题、方法和应用
被引量：6
- 4
-
-
作者
张圣宇
况琨
吕承飞
李纪为
肖俊
吴帆
吴飞
-
机构
浙江大学软件学院
浙江大学计算机科学与技术学院
淘宝(中国)软件有限公司
上海交通大学计算机科学与工程系
浙江大学上海高等研究院
-
出处
《中国工程科学》
CSCD
北大核心
2024年第1期127-138,共12页
-
基金
科技创新2030—“新一代人工智能”重大项目“大小模型端云协同进化与系统”(2022ZD0119100)
中国工程院咨询项目“新一代人工智能及产业集群发展战略研究”(2022-PP-07)。
-
文摘
端云协同智能计算是大数据、云计算、边缘计算发展的产物,可在保护用户隐私的前提下显著提升数据利用率,实现智能计算实时响应能力与服务鲁棒性的优势互补,而相应技术研发和实践应用具有复杂性。本文剖析了端云协同智能计算的应用价值,凝练了端学习效率优化、端少样本过拟合、端模型定制化、分布差异下虚假关联学习、通信开销与计算效率平衡等方面的技术难题;系统梳理了端云协同智能计算中主流方法研究进展,涉及作为应用基石的高效计算硬件、以端为中心的协同计算、以云为中心的协同计算、端云双向协同计算、可信端云协同智能计算等主要方向;总结了推荐系统、自动驾驶、安防系统、教育模式等端云协同智能计算的垂直领域应用情况。着眼端云协同智能计算的未来发展,需重点研究云资源在端模型个性化中的应用策略、端云协同多目标优化算法、端-端与云协同计算的优化策略。
-
关键词
端云协同
大小模型协同计算
端计算
可信协同
机器学习
-
Keywords
device-cloud collaboration
large and small model collaboration computing
on-device computing
trustworthy collaboration
machine learning
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
TP393
[自动化与计算机技术—计算机应用技术]
-
