一个新的带误差项的记忆梯度算法 被引量：3

1

作者 孙清滢 谷亚丽 王长钰 《工程数学学报》 CSCD 北大核心 2007年第5期813-818,共6页

对无约束规划问题,本文提出了结合Armijo步长搜索规则的一类带误差项的记忆梯度求解算法,并在目标函数的梯度一致连续的条件下,证明了算法的全局收敛性。同时给出带误差项的结合拟-Newton方程的记忆梯度算法。数值例子表明算法是有效的。

关键词 无约束最优化 记忆梯度法 广义Armijo步长搜索规则 收敛

在线阅读 下载PDF 职称材料

修正的HS共轭梯度算法的全局收敛性 被引量：2

2

作者 郑艳梅 孙清滢 +1 位作者 王清河 常兆光 《中国石油大学学报（自然科学版）》 EI CAS CSCD 北大核心 2006年第5期143-146,共4页

对求解无约束优化问题的共轭梯度法中的方向参数给定新的区间取法,将HS共轭梯度参数限制在此区间上,保证搜索方向是目标函数的充分下降方向,在此基础上提出了修正HS共轭梯度算法(MHS),并在较弱的条件下讨论了新算法在广义Armijo步长搜... 对求解无约束优化问题的共轭梯度法中的方向参数给定新的区间取法,将HS共轭梯度参数限制在此区间上,保证搜索方向是目标函数的充分下降方向,在此基础上提出了修正HS共轭梯度算法(MHS),并在较弱的条件下讨论了新算法在广义Armijo步长搜索下的全局收敛性。数值试验结果表明,新算法比广义Armijo步长搜索下的FR、PR、HS共轭梯度算法有效。 展开更多

关键词 无约束最优化 共轭梯度法 广义ARMIJO步长搜索 全局收敛性

在线阅读 下载PDF 职称材料

结合广义Armijo步长搜索的一类新的共轭度算法及其收敛特征 被引量：7

3

作者 孙清滢 刘新海 《工程数学学报》 CSCD 北大核心 2003年第1期14-20,共7页

对求解无约束规划的共轭梯度算法中共轭梯度方向中的参数给了一个假设条件,从而确定它的一个取值范围,使其在此范围内取值均能保证共轭梯度方向是目标函数的充分下降方向,提出了一类新的共轭梯度算法,在去掉迭代点列有界和广义Armijo步... 对求解无约束规划的共轭梯度算法中共轭梯度方向中的参数给了一个假设条件,从而确定它的一个取值范围,使其在此范围内取值均能保证共轭梯度方向是目标函数的充分下降方向,提出了一类新的共轭梯度算法,在去掉迭代点列有界和广义Armijo步长搜索下讨论了算法的全局收敛性。同时给出了具有好的收敛性质和较快收敛速度的FR,PR,HS共轭梯度法的修正形式。数值例子表明新算法比Armijo搜索下的FR,PR,HS共轭梯算法更稳定更有效。算法需要较小的存储,特别适于求解大规模无约束最优化问题。 展开更多

关键词 非线性规划 共轭梯度法 广义ARMIJO步长搜索 数值实验 收敛

在线阅读 下载PDF 职称材料

结合Armijo步长搜索的一类新记忆梯度算法及其收敛特征 被引量：4

4

作者 孙清滢 刘新海 《石油大学学报（自然科学版）》 CSCD 北大核心 2003年第5期129-132,共4页

对于求解无约束规划的共轭梯度算法中的共轭梯度方向参数 ,给定一个假设条件 ,确定它的一个取值范围 ,以保证搜索方向是目标函数的充分下降方向 ,由此提出了一类新的记忆梯度算法。在去掉迭代点列有界和Armijo步长搜索下 ,讨论了算法的... 对于求解无约束规划的共轭梯度算法中的共轭梯度方向参数 ,给定一个假设条件 ,确定它的一个取值范围 ,以保证搜索方向是目标函数的充分下降方向 ,由此提出了一类新的记忆梯度算法。在去掉迭代点列有界和Armijo步长搜索下 ,讨论了算法的全局收敛性 ,同时给出了结合FR、PR、HS共轭梯度算法的修正形式。数值实验表明 ,新算法比Armijo步长搜索下的FR、PR、HS共轭梯度法更稳定、更有效。 展开更多

关键词 Armijo步长搜索 记忆梯度算法 收敛性 数值实验 非线性规划 共轭梯度

在线阅读 下载PDF 职称材料

基于优化步长和梯度法的置信规则库参数学习方法 被引量：7

5

作者 常瑞 张速 《华北水利水电学院学报》 2011年第1期154-157,共4页

置信规则库是传统规则库的推广.置信规则库中的参数由专家根据经验人为给定,削弱了置信规则库系统的仿真能力,因此,基于优化步长和梯度法设计了一种新的算法以实现规则库参数的自学习能力.采用该算法对一个已经建立的置信规则库参数进... 置信规则库是传统规则库的推广.置信规则库中的参数由专家根据经验人为给定,削弱了置信规则库系统的仿真能力,因此,基于优化步长和梯度法设计了一种新的算法以实现规则库参数的自学习能力.采用该算法对一个已经建立的置信规则库参数进行了训练,训练结果表明新的算法具有收敛速度快、精度高等优点. 展开更多

关键词 置信规则库 学习模型 非线性规划 梯度法 优化步长

在线阅读 下载PDF 职称材料

结合广义Armijo步长搜索的带误差项的记忆梯度算法

6

作者 孙清滢 桑兆阳 吕炜 《中国石油大学学报（自然科学版）》 EI CAS CSCD 北大核心 2009年第1期162-166,共5页

对非线性无约束规划提出了结合广义Armijo步长搜索规则的一类带误差项的记忆梯度求解算法,在目标函数梯度一致连续的条件下,证明了算法的全局收敛性,同时给出带误差项的结合拟-Newton方程的记忆梯度算法。数值结果表明算法是有效的。

关键词 无约束最优化 带误差项的记忆梯度法 广义Armijo步长搜索规则 全局收敛 数值试验

在线阅读 下载PDF 职称材料

结合Armijo步长搜索的新三项共轭梯度算法及其收敛特征

7

作者 孙清滢 钱伟懿 《大连理工大学学报》 EI CAS CSCD 北大核心 2004年第2期166-169,共4页

对求解无约束优化问题提出了一类新的三项共轭梯度求解算法,在去掉迭代点列{xk}有界和Armijo步长搜索下,讨论了算法的全局收敛性.同时给出结合FR、PR、HS共轭梯度参数的三项共轭梯度算法.数值算例表明新算法比Armijo步长搜索下的FR、PR... 对求解无约束优化问题提出了一类新的三项共轭梯度求解算法,在去掉迭代点列{xk}有界和Armijo步长搜索下,讨论了算法的全局收敛性.同时给出结合FR、PR、HS共轭梯度参数的三项共轭梯度算法.数值算例表明新算法比Armijo步长搜索下的FR、PR、HS共轭梯度算法有效. 展开更多

关键词 Armijo步长搜索 三项共轭梯度算法 无约束优化 全局收敛性 非线性规划

在线阅读 下载PDF 职称材料

新的非单调线搜索规则BFGS算法的全局收敛性 被引量：1

8

作者 郭元宝 黄炳家 《运筹学学报》 CSCD 2011年第1期113-121,共9页

本文在Zhang H.C.的非单调线搜索规则的基础上,设计了求解无约束最优化问题的新的非单调线搜索BFGS算法,在一定的条件下证明了算法的线性收敛性和超线性收敛性分析.数值例子表明算法是有效的.

关键词 运筹学 非线性规划 非单调线搜索 BFGS算法 收敛

在线阅读 下载PDF 职称材料

考虑步距间关联的较薄厚煤层放煤终止原则研究 被引量：3

9

作者 刘一扬 宋选民 刘国方 《煤炭科学技术》 CAS CSCD 北大核心 2022年第7期108-116,共9页

为研究煤层厚度为4~6 m的厚煤层综放开采放煤终止原则,以王家岭煤矿12309工作面为研究背景,通过现场实测得到顶煤块度分布规律,以分布规律为依据,考虑本步距与下一步距放煤之间存在的联系,运用PFC数值模拟方法反演过量放煤放出体,并将... 为研究煤层厚度为4~6 m的厚煤层综放开采放煤终止原则,以王家岭煤矿12309工作面为研究背景,通过现场实测得到顶煤块度分布规律,以分布规律为依据,考虑本步距与下一步距放煤之间存在的联系,运用PFC数值模拟方法反演过量放煤放出体,并将放出体分为4个分区,围绕各分区占比及可放遗煤损失位置标记开展研究,探索合理的放煤终止原则。研究结果表明:顶煤块体块度增加时,放出的块体数量随之减少;放出顶煤粒径在4.0~9.2 cm的块体数量最多,而粒径在9.2~14.4cm的顶煤块体所占的平均质量百分比最大;放出体形态整体呈一下部被支架掩护梁截割的椭球缺;过量放煤放出的顶煤大部分都是可在下一步距放出的顶煤,平均仅有1/3的颗粒为过量放煤可放出的遗煤;含矸率与遗煤放出量曲线在放煤初期差值短暂减小,但随着放煤的继续,差值快速增大,二者曲线整体上呈“剪刀状”变化;将遗煤分为底板遗煤及高位遗煤,发现见矸后仅在很短时间内会有底板遗煤快速放出,且此时可维持低含矸率;而高位遗煤的放出,则伴随着大量的矸石,故过量放煤时间应严格控制,只持续很短时间即可终止;结合较薄厚煤层综放特点及生产现场放煤过程,认为在实际操作中严格执行“见矸关窗”的放煤终止原则可在有效控制含矸率的前提下,实现较高顶煤采出率。 展开更多

关键词 块度分布 步距间关联 较薄厚煤层 放出体 损失规律 放煤终止原则

在线阅读 下载PDF 职称材料

使用Nesterov步长策略投影次梯度方法的个体收敛性 被引量：17

10

作者 陶蔚 潘志松 +1 位作者 储德军 陶卿 《计算机学报》 EI CSCD 北大核心 2018年第1期164-176,共13页

很多机器学习问题都可以最终转换为优化问题来进行求解,凸优化算法已经被成功用于各种机器学习优化问题中,而在优化算法的研究中是否能获得最优的收敛速率是一个最基本问题.此外,稀疏性是稀疏学习问题中关注的另一个目标.目前,人们已经... 很多机器学习问题都可以最终转换为优化问题来进行求解,凸优化算法已经被成功用于各种机器学习优化问题中,而在优化算法的研究中是否能获得最优的收敛速率是一个最基本问题.此外,稀疏性是稀疏学习问题中关注的另一个目标.目前,人们已经提出了大量的随机优化方法求解大规模机器学习优化问题,但大部分的研究只是针对平均输出方式获得了最优收敛速率.个体输出方式显然比平均方式的输出具有更好的稀疏性,但使个体收敛速率获得最优具有一定的难度,人们已经将强凸情形下的最优个体收敛性作为公开问题进行广泛研究.对于光滑目标函数的优化问题,著名学者Nesterov提出了一种步长策略,使得梯度方法的收敛速率获得了数量级形式的加速,并且获得了最优的个体收敛速率.目前,Nesterov加速算法已经应用于各种具有光滑损失函数机器学习优化问题中,研究者基于该加速策略提出了大量的随机优化算法.能否将这种技巧推广至非光滑情形获得最优的个体收敛速率显然是有意义的问题.文中考虑在非光滑优化算法中引入这种步长策略.特别地,我们聚焦经典的一阶梯度方法,提出了一种嵌入加速算法步长策略的投影次梯度算法,证明了这种算法在求解非光滑损失函数学习问题时具有最优的个体收敛速率.这是比标准投影次梯度方法只有在平均输出方式下才具有最优收敛速率更强的结论,也是一阶梯度方法在个体最优收敛速率方面比较接近于大家期待的研究成果.与平均方式输出以及线性插值的投影次梯度方法相比,该文所提方法的梯度运算在插值策略之后,因此在求解l1范数约束的hinge损失函数学习问题时具有更好的稀疏性.人工数据集上的实验验证了所提方法的正确性,基准数据集上验证了该方法在保持稀疏性方面具有良好的性能. 展开更多

关键词 机器学习 非光滑损失函数问题 投影次梯度方法 Nesterov步长策略 个体收敛速率 稀疏学习

在线阅读 下载PDF 职称材料

一种单位化的增量梯度算法

11

作者 钱晓慧 王湘美 《运筹学学报》 CSCD 北大核心 2021年第2期81-92,共12页

研究目标函数是若干光滑函数和的可分离优化问题,提出了一种单位化增量梯度算法。该算法每次子迭代只需要计算一个(或几个)分量函数的单位负梯度方向作为迭代方向。在一定条件下,证明了采用发散步长的单位化增量梯度算法的收敛性。作为... 研究目标函数是若干光滑函数和的可分离优化问题,提出了一种单位化增量梯度算法。该算法每次子迭代只需要计算一个(或几个)分量函数的单位负梯度方向作为迭代方向。在一定条件下,证明了采用发散步长的单位化增量梯度算法的收敛性。作为应用,新算法和Bertsekas D P,Tsitsikils J N提出的(没有单位化)增量梯度算法分别用来求解稳健估计问题和源定位问题。数值例子表明,新算法优于(没有单位化)增量梯度算法。 展开更多

关键词 可分离优化 单位化增量梯度算法 增量梯度法 发散步长准则

在线阅读 下载PDF 职称材料