期刊文献+
共找到11篇文章
< 1 >
每页显示 20 50 100
基于自然梯度的非线性变分贝叶斯滤波算法
1
作者 胡玉梅 潘泉 +2 位作者 邓豹 郭振 陈立峰 《自动化学报》 北大核心 2025年第2期427-444,共18页
在统计流形空间中,从信息几何角度考虑非线性状态后验分布近似的实质是后验分布与相应参数化变分分布之间的Kullback-Leibler(KL)散度最小化问题,同时也可以转化为变分置信下界的最大化问题.为了提升非线性系统状态估计的精度,在高斯系... 在统计流形空间中,从信息几何角度考虑非线性状态后验分布近似的实质是后验分布与相应参数化变分分布之间的Kullback-Leibler(KL)散度最小化问题,同时也可以转化为变分置信下界的最大化问题.为了提升非线性系统状态估计的精度,在高斯系统假设条件下结合变分贝叶斯(Variational Bayes,VB)推断和Fisher信息矩阵推导出置信下界的自然梯度,并通过分析其信息几何意义,阐述在统计流形空间中置信下界沿其方向不断迭代增大,实现变分分布与后验分布的“紧密”近似;在此基础上,以状态估计及其误差协方差作为变分超参数,结合最优估计理论给出一种基于自然梯度的非线性变分贝叶斯滤波算法;最后,通过天基光学传感器量测条件下近地轨道卫星跟踪定轨和纯角度被动传感器量测条件下运动目标跟踪仿真实验验证,与对比算法相比,所提算法具有更高的精度. 展开更多
关键词 非线性滤波 信息几何 贝叶斯推断 自然梯度 Fisher信息矩阵
在线阅读 下载PDF
基于自然梯度的噪声自适应变分贝叶斯滤波算法 被引量:3
2
作者 胡玉梅 潘泉 +1 位作者 胡振涛 郭振 《自动化学报》 EI CAS CSCD 北大核心 2023年第10期2094-2108,共15页
考虑到运动目标跟踪系统机动、隐身等人为对抗特征以及非视距、干扰、遮挡等环境因素,其系统建模、估计与辨识过程中越来越无法回避非线性、非高斯以及参数未知等复杂系统特征的影响.针对过程噪声先验信息不准确以及量测噪声非高斯环境... 考虑到运动目标跟踪系统机动、隐身等人为对抗特征以及非视距、干扰、遮挡等环境因素,其系统建模、估计与辨识过程中越来越无法回避非线性、非高斯以及参数未知等复杂系统特征的影响.针对过程噪声先验信息不准确以及量测噪声非高斯环境下运动目标的非线性状态估计问题,提出一种基于自然梯度的噪声自适应变分贝叶斯(Variational Bayes,VB)滤波算法.首先,利用指数族分布具有统一表达形式的优势,构建参数化逆威沙特(Inverse-Wishart,IW)分布作为状态一步预测误差协方差的共轭先验分布,同时选取学生t分布重构因量测随机缺失导致的具有非高斯特点的似然函数;其次,在变分贝叶斯优化框架下采用平均场理论将状态变量联合后验分布近似分解为独立的变分分布,在此基础上,结合坐标上升方法更新各变量的变分分布参数;进而,结合Fisher信息矩阵推导置信下界最大化关于状态估计及其估计误差协方差的自然梯度,使非线性状态后验分布的近似分布沿梯度下降,以实现对状态后验概率密度函数(Probability density function,PDF)的“紧密”逼近.理论分析和仿真实验表明:相对传统的非线性滤波方法,本文算法对噪声不确定问题具有较好的自适应能力,并且能够获得较高的状态估计精度. 展开更多
关键词 非线性滤波 自适应滤波 贝叶斯推断 自然梯度 Fisher信息矩阵
在线阅读 下载PDF
基于扩散方法的分布式随机变分推断算法 被引量:2
3
作者 付维明 秦家虎 朱英达 《自动化学报》 EI CAS CSCD 北大核心 2021年第1期92-99,共8页
分布式网络上的聚类、估计或推断具有广泛的应用,因此引起了许多关注.针对已有的分布式变分贝叶斯(Variational Bayesian,VB)算法效率低,可扩展性差的问题,本文借用扩散方法提出了一种新的分布式随机变分推断(Stochastic variational in... 分布式网络上的聚类、估计或推断具有广泛的应用,因此引起了许多关注.针对已有的分布式变分贝叶斯(Variational Bayesian,VB)算法效率低,可扩展性差的问题,本文借用扩散方法提出了一种新的分布式随机变分推断(Stochastic variational inference,SVI)算法,其中我们选择自然梯度法进行参数本地更新并选择对称双随机矩阵作为节点间参数融合的系数矩阵.此外,我们还为所提出的分布式SVI算法提出了一种对异步网络的适应机制.最后,我们在伯努利混合模型(Bernoulli mixture model,BMM)和隐含狄利克雷分布(Latent Dirichlet allocation,LDA)模型上测试所提出的分布式SVI算法的可行性,实验结果显示其在许多方面的性能优于集中式SVI算法. 展开更多
关键词 布式算法 随机推断 扩散方法 异步网络 主题模型
在线阅读 下载PDF
面向大规模数据主题建模的方差减小的随机变分推理算法 被引量:1
4
作者 刘张虎 程春玲 《计算机应用》 CSCD 北大核心 2018年第6期1675-1681,共7页
随机变分推理(SVI)已被成功应用于在包括主题模型在内的众多类型的模型。虽然它将推理问题映射到涉及随机梯度的优化问题,使其扩展到处理大规模数据集,但是SVI算法中随机梯度固有的噪声使其产生较大的方差,阻碍了快速收敛。为此,对SVI... 随机变分推理(SVI)已被成功应用于在包括主题模型在内的众多类型的模型。虽然它将推理问题映射到涉及随机梯度的优化问题,使其扩展到处理大规模数据集,但是SVI算法中随机梯度固有的噪声使其产生较大的方差,阻碍了快速收敛。为此,对SVI作出改进,提出一种方差减小的SVI(VR-SVI)算法。首先,采取滑动窗口的方法重新计算随机梯度中的噪声项,构建新的随机梯度,减少了噪声对随机梯度的影响;然后,对提出的算法可在SVI基础上使得随机梯度的方差减小进行证明;最后,讨论窗口大小对算法的影响,并分析算法的收敛性。实验结果表明,VRSVI算法既减小了随机梯度的方差,又节省了计算时间,可达到快速收敛的效果。 展开更多
关键词 随机推理 滑动窗口 随机梯度 方差减小 主题建模
在线阅读 下载PDF
一个梯度约束的变分不等式中的自由边界问题
5
作者 管崇虎 陈婧 《华东师范大学学报(自然科学版)》 CAS CSCD 北大核心 2018年第1期1-10,共10页
考虑一个抛物型梯度约束的变分不等式min{v_t-1/2σ~2v_(xx)-μv_x+cv,v_x-1}=0.问题来源于以公司最优分红模型为背景的随机最优控制问题.本文运用偏微分方程技术,通过引入惩罚方法,得到变分不等式解的存在唯一性和一些先验估计,然后进... 考虑一个抛物型梯度约束的变分不等式min{v_t-1/2σ~2v_(xx)-μv_x+cv,v_x-1}=0.问题来源于以公司最优分红模型为背景的随机最优控制问题.本文运用偏微分方程技术,通过引入惩罚方法,得到变分不等式解的存在唯一性和一些先验估计,然后进一步讨论自由边界的性质,最终证明自由边界不仅可以表示成x关于t的函数,而且是以0为起点、单调递增、C~∞的曲线. 展开更多
关键词 梯度约束 不等式 自由边界 随机最优控制 最优
在线阅读 下载PDF
基于VMD形态梯度谱与BAS-RF的变压器绕组松动诊断 被引量:2
6
作者 颜锦 马宏忠 +2 位作者 朱昊 张玉良 许洪华 《振动.测试与诊断》 EI CSCD 北大核心 2023年第5期953-959,1040,共8页
为有效提取变压器振动信号中的绕组状态信息,提出一种基于变分模态分解(variational mode decomposition,简称VMD)、形态梯度谱的特征提取,采用天牛须搜索算法优化随机森林(beetle antennae search‑random forest,简称BAS‑RF)识别绕组... 为有效提取变压器振动信号中的绕组状态信息,提出一种基于变分模态分解(variational mode decomposition,简称VMD)、形态梯度谱的特征提取,采用天牛须搜索算法优化随机森林(beetle antennae search‑random forest,简称BAS‑RF)识别绕组松动状态的诊断方法。首先,将实测变压器振动信号经VMD分解得到若干个模态分量;其次,计算多个尺度的形态梯度谱以形成初始特征样本集,为防止维数灾难,使用主成分分析法对初始特征样本集进行降维处理;最后,利用天牛须搜索算法对随机森林中决策树的个数和树的深度进行寻优以构造分类器模型,实现对变压器绕组松动状态的识别。实验结果表明,该方法能有效提取变压器绕组松动故障特征信息,且具有优良的抗噪性能,构建的BAS‑RF模型具有较高的识别准确率和识别速度。 展开更多
关键词 压器 绕组松动 模态 形态梯度 随机森林
在线阅读 下载PDF
考虑频域分解后数据特征的空调负荷预测模型 被引量:6
7
作者 于军琪 边策 +2 位作者 赵安军 解云飞 惠蕾蕾 《控制理论与应用》 EI CAS CSCD 北大核心 2022年第6期1149-1157,共9页
针对空调负荷预测实际应用中容易存在数据散杂且可用信息匮乏的问题,从负荷序列的非线性、非平稳性和随机性出发,提出了一种基于变分模态分解(VMD)的负荷预测方法.对不同数据特征序列考虑不同算法的数据观测与训练原理差异,充分发挥各... 针对空调负荷预测实际应用中容易存在数据散杂且可用信息匮乏的问题,从负荷序列的非线性、非平稳性和随机性出发,提出了一种基于变分模态分解(VMD)的负荷预测方法.对不同数据特征序列考虑不同算法的数据观测与训练原理差异,充分发挥各个模型优势.首先采用随机森林(RF)进行特征选择,利用VMD将负荷序列按趋势分量、平稳分量和噪声分量进行分类重构,并分别对非线性序列建立最小二乘支持向量机(LSSVM)预测模型,时序平稳序列建立极端梯度提升(XGBoost)预测模型,采用正态分布拟合随机误差,得到各子序列预测结果并进行叠加输出最终负荷预测结果.实验结果表明,所提方法能准确反映负荷的特性并具有更好的预测精度,能有效预测空调负荷,为空调节能优化控制策略提供依据. 展开更多
关键词 负荷预测 模态 最小二乘支持向量机 极端梯度提升 随机误差
在线阅读 下载PDF
基于不确定性的多元时间序列分类算法研究 被引量:1
8
作者 张旭 张亮 +1 位作者 金博 张红哲 《自动化学报》 EI CAS CSCD 北大核心 2023年第4期790-804,共15页
多元时间序列(Multivariate time series,MTS)分类是许多领域中的重要问题,准确的分类结果可以有效地帮助决策.当前的MTS分类算法在个体的表征学习阶段难以自动建模多元变量之间复杂的交互关系,并且无法评估分类结果的可信度,这会导致... 多元时间序列(Multivariate time series,MTS)分类是许多领域中的重要问题,准确的分类结果可以有效地帮助决策.当前的MTS分类算法在个体的表征学习阶段难以自动建模多元变量之间复杂的交互关系,并且无法评估分类结果的可信度,这会导致模型性能受限,以及缺乏具备统计意义的可靠性解释.本文提出了一种基于不确定性的多元时间序列分类算法,变分贝叶斯共享图神经网络,即VBSGNN(Variational Bayes shared graph neural network).首先通过图神经网络(Graph neural network,GNN)提取多元变量之间的交互特征,然后利用贝叶斯神经网络(Bayesian neural network,BNN)为预测过程引入了不确定性.最后在10个公开MTS数据集上进行了算法实验,并与当前提出的7类算法进行了比较,结果表明VBSGNN可有效学习多元变量之间的交互关系,提升了分类效果,并使得模型具备一定的可靠性评估能力. 展开更多
关键词 多元时间序列预测 图神经网络 不确定性 随机推断 贝叶斯神经网络
在线阅读 下载PDF
求解双目标规划的近似邻近外梯度算法 被引量:1
9
作者 高雷阜 魏帅 《辽宁工程技术大学学报(自然科学版)》 CAS 北大核心 2014年第4期552-555,共4页
为解决双目标规划问题的常规解法受预先设定的权重的影响,而影响其结果准确性的问题,提出了双目标规划问题的近似邻近外梯度算法.结果表明:将双目标规划问题等价变形为变分不等式,在求解变分不等式子问题的基础之上,用半空间投影构造迭... 为解决双目标规划问题的常规解法受预先设定的权重的影响,而影响其结果准确性的问题,提出了双目标规划问题的近似邻近外梯度算法.结果表明:将双目标规划问题等价变形为变分不等式,在求解变分不等式子问题的基础之上,用半空间投影构造迭代步,避开了对权重的设定,证明了算法的全局收敛性.实例分析进一步验证算法的可行性与有效性. 展开更多
关键词 双目标规划 不等式 半空间投影 近似邻近外梯度算法 全局收敛 随机步长 灵活性 准确性
在线阅读 下载PDF
利用标注者相关性的深度生成式众包学习 被引量:1
10
作者 李绍园 韦梦龙 黄圣君 《软件学报》 EI CSCD 北大核心 2022年第4期1274-1286,共13页
传统监督学习需要训练样本的真实标记信息,而在很多情况下,真实标记并不容易收集.与之对比,众包学习从多个可能犯错的非专家收集标注,通过某种融合方式估计样本的真实标记.注意到现有深度众包学习工作对标注者相关性建模不足,而非深度... 传统监督学习需要训练样本的真实标记信息,而在很多情况下,真实标记并不容易收集.与之对比,众包学习从多个可能犯错的非专家收集标注,通过某种融合方式估计样本的真实标记.注意到现有深度众包学习工作对标注者相关性建模不足,而非深度众包学习方面的工作表明,标注者相关性建模利用有助于改善学习效果.提出一种深度生成式众包学习方法,以结合深度神经网络优势及利用标注者相关性.该模型由深度神经网络分类器先验和标注生成过程组成,其中,标注生成过程通过引入各类别内标注者能力的混合模型以建模标注者相关性.为自适应地匹配数据及模型复杂度,实现了完全贝叶斯推断.基于结构变分自编码器的自然梯度随机变分推断技术,将共轭参数变分消息传递与神经网络参数随机梯度下降结合到统一框架,实现端到端的高效优化.在22个真实众包数据集上的实验结果验证了该方法的有效性. 展开更多
关键词 众包学习 深度生成式模型 标注者相关性 贝叶斯 自然梯度随机变分推断
在线阅读 下载PDF
大数据背景下VI理论研究与实际应用
11
作者 季艳秋 卢志义 《绿色科技》 2021年第16期234-238,共5页
指出了许多无监督或半监督机器学习算法依赖于贝叶斯概率模型,这些模型中参数的后验分布通常难以计算。VI是一种通过优化算法近似后验密度的统计推断方法。VI与机器学习方法相结合,可为大数据分析提供新的思路和方法。在对VI的产生和发... 指出了许多无监督或半监督机器学习算法依赖于贝叶斯概率模型,这些模型中参数的后验分布通常难以计算。VI是一种通过优化算法近似后验密度的统计推断方法。VI与机器学习方法相结合,可为大数据分析提供新的思路和方法。在对VI的产生和发展进行回顾的基础上,介绍了VI中经典的平均场理论和相应的坐标上升算法,以及将VI拓展到大数据分析领域的SVI算法,并对VI的发展前景进行了分析,对VI中一些衡量指标以及独立性假设进行了改进,提出了VI与统计学方法的结合将成为未来的研究方向。 展开更多
关键词 推断 大数据 平均场 自然梯度
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部