局部线性嵌入算法采用欧氏距离选择邻域点,这通常会损失数据集本身的非线性特征,造成邻域点选取错误,且仅使用欧氏距离构造权重会导致信息挖掘不充分。针对以上问题,提出基于概率模型与信息熵的局部线性嵌入算法(Probability informatio...局部线性嵌入算法采用欧氏距离选择邻域点,这通常会损失数据集本身的非线性特征,造成邻域点选取错误,且仅使用欧氏距离构造权重会导致信息挖掘不充分。针对以上问题,提出基于概率模型与信息熵的局部线性嵌入算法(Probability information entropy-LLE,PIE-LLE)。首先,为了使邻域点选择更加合理,从数据集的概率分布角度出发,考虑样本点及其邻域的概率分布,为样本点构造符合局部分布的邻域集合。其次,为了充分提取样本的局部结构信息,在权重构造阶段,分别计算样本所属邻域概率以及每个样本的信息熵,融合二者信息重构低维样本。最后,在两个轴承故障数据集上的实验表明,所提方法故障识别准确度最高达到了100%,高于其他对比算法;在邻域点个数5~15范围内,PIE-LLE算法展现出良好的低维可视化效果;在参数敏感性实验中,该算法可以保持Fisher指标较大,有效提高了算法的分类准确度和稳定性。展开更多
近年来,随着人工智能领域技术的不断发展,人机交互领域吸引了更多学者的关注。研究表明由脑电图(electroencephalogram,EEG)提取的特征功率谱密度对于脑力负荷的变化比较敏感,但由于其维数过高,容易造成数据灾难。局部线性嵌入(locally ...近年来,随着人工智能领域技术的不断发展,人机交互领域吸引了更多学者的关注。研究表明由脑电图(electroencephalogram,EEG)提取的特征功率谱密度对于脑力负荷的变化比较敏感,但由于其维数过高,容易造成数据灾难。局部线性嵌入(locally linear embedding,LLE)是常用的非线性降维算法,该算法弥补了传统线性降维算法无法发现数据中非线性结构关系的不足。由于不同数据集中样本分布的稀疏程度和扭曲程度不同,在使用LLE对不同数据集进行降维时的最佳邻域参数也不同。利用样本点之间的欧氏距离和测地距离的关系量化了数据集的扭曲程度,自适应邻域参数的局部线性嵌入算法(variable k-locally linear embedding,VK-LLE)动态地调整每一个数据集的最佳邻域参数,解决了样本分布扭曲程度不同对降维效果造成的干扰。实验结果表明,经过VK-LLE降维后的数据使用支持向量机(support vector machine,SVM)分类精度普遍高于经过传统LLE的降维后再使用SVM分类的精度,对复杂数据集有更强的适应能力。展开更多
随着工业过程日趋复杂,系统安全及产品质量的在线监控也变得日益重要。针对化工过程的非线性特点,提出了一种新的基于局部线性嵌入(locally linear embedding,LLE)流形学习算法和支持向量数据描述(sup-port vector data description,SV...随着工业过程日趋复杂,系统安全及产品质量的在线监控也变得日益重要。针对化工过程的非线性特点,提出了一种新的基于局部线性嵌入(locally linear embedding,LLE)流形学习算法和支持向量数据描述(sup-port vector data description,SVDD)的故障检测方法。首先,使用LLE提取高维数据的低维子流形,进行维数约减,以保存更多原有系统的非线性特性,通过局部线性回归得到高维数据空间到低维特征空间的映射矩阵,保证了算法的实时性;然后,为了避免数据噪声的累加对传统统计量的影响,引入SVDD直接根据特征空间建立SVDD模型,构造统计量并确定其控制限;最后,通过数字仿真及Tennessee Eastman(TE)过程仿真研究验证了本文方法的有效性。展开更多
针对局部线性嵌入算法(Local Linear Embedding,LLE)短路、离群点影响大和结构信息缺乏等问题,提出基于Kernel Rank-order距离的重构权重局部线性嵌入算法(Reconstruction weight Local Linear Embedding algorithm based on Kernel Ran...针对局部线性嵌入算法(Local Linear Embedding,LLE)短路、离群点影响大和结构信息缺乏等问题,提出基于Kernel Rank-order距离的重构权重局部线性嵌入算法(Reconstruction weight Local Linear Embedding algorithm based on Kernel Rank-order distance,KRLLE)。用核函数将样本点映射到高维使其更加线性可分,进而获得较好的近邻点集;计算重构权重系数进而得到加权重构权重,重构权重系数根据两点间相关性越大对重构贡献越大的特性来减小离群点的影响,并利用两点间的欧氏距离与测地线距离之比有效地将短路点排除在外;根据加权重构权重得到低维嵌入坐标。在ORL、Yale人脸库和MNIST手写体数据库上的实验表明,KRLLE对离群点具有更好的鲁棒性并且由于增加了结构信息,识别率得到了提高。展开更多
函数型聚类分析在统计学领域被广泛关注,其分析过程通常在降维目标实现后进行。为了有效解决函数型主成分聚类问题,文章结合局部线性嵌入算法(Locally Linear Embedding,LLE)在非线性空间下的适用性,提出了一种局部线性下的函数型主成...函数型聚类分析在统计学领域被广泛关注,其分析过程通常在降维目标实现后进行。为了有效解决函数型主成分聚类问题,文章结合局部线性嵌入算法(Locally Linear Embedding,LLE)在非线性空间下的适用性,提出了一种局部线性下的函数型主成分分析模型(LLE Function Principle Component Analysis,LFPCA)。首先,采用函数型主成分分析法作为降维目标方法,改进了FPCA的算法模型,通过将LLE算法的权重系数矩阵与函数型主成分定义相结合,构建出一个适用于非线性空间下的聚类算法;其次,在求解算法的过程中定义了函数型主成分得分,并结合EM算法构建出GMM模型来近似函数型算法的概率密度函数,使模型更高效且适用性更强;最后,通过随机模拟实验及应用分析验证了LFPCA算法模型在真实数据集上具有良好的聚类效能。展开更多
文摘局部线性嵌入算法采用欧氏距离选择邻域点,这通常会损失数据集本身的非线性特征,造成邻域点选取错误,且仅使用欧氏距离构造权重会导致信息挖掘不充分。针对以上问题,提出基于概率模型与信息熵的局部线性嵌入算法(Probability information entropy-LLE,PIE-LLE)。首先,为了使邻域点选择更加合理,从数据集的概率分布角度出发,考虑样本点及其邻域的概率分布,为样本点构造符合局部分布的邻域集合。其次,为了充分提取样本的局部结构信息,在权重构造阶段,分别计算样本所属邻域概率以及每个样本的信息熵,融合二者信息重构低维样本。最后,在两个轴承故障数据集上的实验表明,所提方法故障识别准确度最高达到了100%,高于其他对比算法;在邻域点个数5~15范围内,PIE-LLE算法展现出良好的低维可视化效果;在参数敏感性实验中,该算法可以保持Fisher指标较大,有效提高了算法的分类准确度和稳定性。
文摘近年来,随着人工智能领域技术的不断发展,人机交互领域吸引了更多学者的关注。研究表明由脑电图(electroencephalogram,EEG)提取的特征功率谱密度对于脑力负荷的变化比较敏感,但由于其维数过高,容易造成数据灾难。局部线性嵌入(locally linear embedding,LLE)是常用的非线性降维算法,该算法弥补了传统线性降维算法无法发现数据中非线性结构关系的不足。由于不同数据集中样本分布的稀疏程度和扭曲程度不同,在使用LLE对不同数据集进行降维时的最佳邻域参数也不同。利用样本点之间的欧氏距离和测地距离的关系量化了数据集的扭曲程度,自适应邻域参数的局部线性嵌入算法(variable k-locally linear embedding,VK-LLE)动态地调整每一个数据集的最佳邻域参数,解决了样本分布扭曲程度不同对降维效果造成的干扰。实验结果表明,经过VK-LLE降维后的数据使用支持向量机(support vector machine,SVM)分类精度普遍高于经过传统LLE的降维后再使用SVM分类的精度,对复杂数据集有更强的适应能力。
文摘随着工业过程日趋复杂,系统安全及产品质量的在线监控也变得日益重要。针对化工过程的非线性特点,提出了一种新的基于局部线性嵌入(locally linear embedding,LLE)流形学习算法和支持向量数据描述(sup-port vector data description,SVDD)的故障检测方法。首先,使用LLE提取高维数据的低维子流形,进行维数约减,以保存更多原有系统的非线性特性,通过局部线性回归得到高维数据空间到低维特征空间的映射矩阵,保证了算法的实时性;然后,为了避免数据噪声的累加对传统统计量的影响,引入SVDD直接根据特征空间建立SVDD模型,构造统计量并确定其控制限;最后,通过数字仿真及Tennessee Eastman(TE)过程仿真研究验证了本文方法的有效性。
文摘针对局部线性嵌入算法(Local Linear Embedding,LLE)短路、离群点影响大和结构信息缺乏等问题,提出基于Kernel Rank-order距离的重构权重局部线性嵌入算法(Reconstruction weight Local Linear Embedding algorithm based on Kernel Rank-order distance,KRLLE)。用核函数将样本点映射到高维使其更加线性可分,进而获得较好的近邻点集;计算重构权重系数进而得到加权重构权重,重构权重系数根据两点间相关性越大对重构贡献越大的特性来减小离群点的影响,并利用两点间的欧氏距离与测地线距离之比有效地将短路点排除在外;根据加权重构权重得到低维嵌入坐标。在ORL、Yale人脸库和MNIST手写体数据库上的实验表明,KRLLE对离群点具有更好的鲁棒性并且由于增加了结构信息,识别率得到了提高。
文摘函数型聚类分析在统计学领域被广泛关注,其分析过程通常在降维目标实现后进行。为了有效解决函数型主成分聚类问题,文章结合局部线性嵌入算法(Locally Linear Embedding,LLE)在非线性空间下的适用性,提出了一种局部线性下的函数型主成分分析模型(LLE Function Principle Component Analysis,LFPCA)。首先,采用函数型主成分分析法作为降维目标方法,改进了FPCA的算法模型,通过将LLE算法的权重系数矩阵与函数型主成分定义相结合,构建出一个适用于非线性空间下的聚类算法;其次,在求解算法的过程中定义了函数型主成分得分,并结合EM算法构建出GMM模型来近似函数型算法的概率密度函数,使模型更高效且适用性更强;最后,通过随机模拟实验及应用分析验证了LFPCA算法模型在真实数据集上具有良好的聚类效能。
