-
题名解耦表征学习综述
被引量：13
- 1
-
-
作者
文载道
王佳蕊
王小旭
潘泉
-
机构
西北工业大学自动化学院
信息融合技术教育部重点实验室
-
出处
《自动化学报》
EI
CAS
CSCD
北大核心
2022年第2期351-374,共24页
-
基金
国家自然科学基金(61806165,61790552,61801020)
陕西省基础研究计划(2020JQ-196)资助。
-
文摘
在大数据时代下,以高效自主隐式特征提取能力闻名的深度学习引发了新一代人工智能的热潮,然而其背后黑箱不可解释的“捷径学习”现象成为制约其进一步发展的关键性瓶颈问题.解耦表征学习通过探索大数据内部蕴含的物理机制和逻辑关系复杂性,从数据生成的角度解耦数据内部多层次、多尺度的潜在生成因子,促使深度网络模型学会像人类一样对数据进行自主智能感知,逐渐成为新一代基于复杂性的可解释深度学习领域内重要研究方向,具有重大的理论意义和应用价值.本文系统地综述了解耦表征学习的研究进展,对当前解耦表征学习中的关键技术及典型方法进行了分类阐述,分析并汇总了现有各类算法的适用场景并对此进行了可视化实验性能展示,最后指明了解耦表征学习今后的发展趋势以及未来值得研究的方向.
-
关键词
深度学习
捷径学习
潜在生成因子
智能感知
解耦表征学习
-
Keywords
Deep learning
shortcut learning
generative latent factors
intelligent perception
disentangled representation learning
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-
-
题名视觉表征学习综述
- 2
-
-
作者
王帅炜
雷杰
冯尊磊
梁荣华
-
机构
浙江工业大学计算机科学与技术学院
浙江大学计算机科学与技术学院
-
出处
《计算机科学》
CSCD
北大核心
2024年第11期112-132,共21页
-
基金
国家自然科学基金(62106226,62036009)
浙江省自然科学基金(LQ22F020013,LDT23F0202)。
-
文摘
表征学习是人工智能算法中的重要一环,好的表征能够让后续的下游任务事半功倍。随着深度学习在计算机视觉领域的发展,视觉表征学习变得越来越重要,其目的是将复杂的视觉信息转换为更易于人工智能算法学习的表达。文中主要介绍了目前广泛使用的视觉表征学习的研究工作,根据数据依赖程度和类型的不同,将其划分为预训练视觉表征学习、生成式视觉表征学习、对比式视觉表征学习、解耦式视觉表征学习以及结合语言信息的视觉表征学习。具体而言,预训练视觉表征学习是基于有监督的预训练模型在视觉表征学习上的应用;生成式视觉表征学习利用生成模型学习视觉表征;对比式视觉表征学习主要介绍了利用对比学习思想来学习视觉表征的各类网络框架。此外,还介绍了利用变分自编码器和生成对抗网络在解耦式视觉表征学习中的应用,以及利用语言信息来增强视觉表征学习的各种方法。最后,总结了视觉表征学习的评价准则和未来展望。
-
关键词
视觉表征学习
人工智能算法
解耦式视觉表征学习
语言信息
-
Keywords
Visual representation learning
Artificial intelligence algorithm
Decoupled visual representation learning
Language information
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名视觉特征对比解耦的广义零样本学习
- 3
-
-
作者
张志远
杨关
刘小明
刘阳
-
机构
中原工学院
河南省网络舆情监测与智能分析重点实验室
西安电子科技大学
-
出处
《计算机应用研究》
CSCD
北大核心
2023年第6期1912-1920,共9页
-
基金
国家自然科学基金青年项目(61906141)
东北师范大学应用统计教育部重点实验室资助项目(135131007)
河南省高等学校重点科研项目(23A520022)。
-
文摘
广义零样本学习通常利用在ImageNet上预训练的深度模型来提取相应的视觉特征,然而预训练模型提取到的视觉特征不可避免地包含和语义无关的信息,这将导致语义—视觉对齐的偏差以及对不可见类的负迁移,从而影响分类结果。为解决上述问题,提出了视觉特征对比解耦的广义零样本学习模型(visual feature contrast decoupling for generalized zero-shot learning,VFCD-GZSL),通过解耦出视觉特征中的语义相关表示来降低冗余信息对分类结果的影响。具体来说,首先用条件变分自编码器生成不可见类的视觉特征。然后通过解耦模块将视觉特征解耦语义相关和语义无关的潜层表示,同时添加总相关惩罚和对比损失来鼓励两者间的相互独立,并用语义关系匹配模型衡量其语义一致性,从而指导模型学习语义相关表示。最后使用特征细化模块细化后的特征和语义相关表示联合学习一个广义零样本学习分类器。在四个数据集上的实验均取得较优的结果,证实了所提方法的有效性。
-
关键词
广义零样本学习
解耦表征学习
变分自编码器
生成模型
特征融合
-
Keywords
generalized zero-shot learning
decoupling representation learning
variational auto-encoder
generative model
feature fusion
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
