-
题名无向高维稀疏网络的深度潜在因子模型
- 1
-
-
作者
吴金荣
胡建华
宋燕
沈春根
-
机构
上海理工大学理学院
上海理工大学光电信息与计算机工程学院
-
出处
《小型微型计算机系统》
CSCD
北大核心
2023年第7期1375-1381,共7页
-
基金
国家自然科学基金项目(62073223)资助。
-
文摘
无向、高维、稀疏网络是工业中经常遇到的问题,通常用高维、对称、稀疏矩阵来描述.潜在因子模型是从高维稀疏矩阵的少量已知信息中提取有用知识的一种经典方法.随着深度学习广泛应用于机器学习,以矩阵分解形式的深度潜在因子模型被提出.然而,目前多层次的矩阵分解模型其本质是线性模型,并难以满足矩阵非负性和对称性的要求.本文提出了非线性的深度非负、对称潜在因子模型(DNSLF)用于高维对称稀疏数据补全;在多层潜在因子之间搭建非线性映射的传递函数,严格保证了目标矩阵的非负性和对称性;为了更高效的求解模型,设计了一个步长自适应的迭代优化算法.通过与一些较新的潜在因子模型的对比实验结果表明,新提出的方法在高维对称稀疏矩阵补全时有显著的优越性.
-
关键词
高维稀疏矩阵
潜在因子
非线性
非负性
对称性
-
Keywords
high-dimensional sparse matrix
latent factors
nonlinearity
non-negativity
symmetry
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名结合L1和L2正则化约束的隐语义预测模型研究
被引量：7
- 2
-
-
作者
王德贤
何先波
贺春林
周坤
陈敏治
-
机构
西华师范大学计算机学院
-
出处
《计算机工程与应用》
CSCD
北大核心
2019年第19期121-127,共7页
-
基金
国家大学生创新创业专项基金(No.201510638047)
四川省教育厅重点项目(No.15ZA048,No.13ZA0015)
+1 种基金
南充市科技支撑项目(No.15A0068)
西华师范大学英才基金(No.17YC150)
-
文摘
在大数据领域中预测高维稀疏矩阵中的缺失数据,通常采用随机梯度下降算法构造隐语义模型来对缺失数据进行预测。在随机梯度下降算法来求解模型的过程中经常加入正则化项来提高模型的性能,由于L1正则化项不可导,目前在隐语义模型中主要通过加入L2正则化项来构建隐语义模型(SGD_LF)。但因为L1正则化项能提高模型的稀疏性增强模型求解能力,因此提出一种基于L1和L2正则化约束的隐语义(SPGD_LF)模型。在通过构建目标函数时,同时引入L1和L2正则化项。由于目标函数满足利普希茨条件,并通过二阶的泰勒展开对目标函数进行逼近,构造出随机梯度下降的求解器,在随机梯度下降求解隐语义模型的过程中通过软阈值来处理L1正则化项所对应的边界优化问题。通过此优化方案,可以更好地表达目标矩阵中的已知数据在隐语义空间中的特征和对应的所属社区关系,提高了模型的泛化能力。通过在大型工业数据集上的实验表明,SPGD_LF模型的预测精度、稀疏性和收敛速度等性能都有显著提高。
-
关键词
大数据应用
高维稀疏矩阵
隐语义
-
Keywords
big data application
high-dimensional and sparse matrix
latent factor
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名基于弹性网络正则化的隐因子预测模型
被引量：2
- 3
-
-
作者
贺文灏
王德贤
邓萍
刘锐
-
机构
西华师范大学计算机学院
西南交通大学信息科学与技术学院
-
出处
《计算机应用与软件》
北大核心
2019年第7期287-293,共7页
-
基金
国家自然科学基金面上项目(61871330)
国家大学生创新创业专项基金项目(201510638047,201810638020x)
+2 种基金
四川省教育厅重点项目(15ZA048,13ZA0015)
四川省科技厅支撑项目(2018GFW0151)
西华师范大学英才基金资助课题(17YC150,17YC149)
-
文摘
在大数据预测中,通常采用SGD_LF模型对高维稀疏矩阵中的缺失数据进行预测。由于SGD_LF模型仅有L 2正则化项对目标函数进行约束,不能调整隐因子的分布,这样导致模型不能很好地描述目标矩阵中实体特性,损失了模型精度。用FOBOS算法构造一个同时用L 1和L 2限制目标函数的弹性网络ENLF模型,ENLF很好地调整隐因子的分布并提高了模型性能。为了进一步提高ENLF模型的性能,在其中加入偏差,构造BENLF模型。在大型商业数据集上的实验表明,ENLF和BENLF模型的预测精度和模型稀疏性等性能有显著提高。
-
关键词
高维稀疏矩阵
隐因子
大数据
-
Keywords
High-dimensional sparse matrix
Latent factor
Big data
-
分类号
TP391.9
[自动化与计算机技术—计算机应用技术]
-
