期刊导航
期刊开放获取
上海教育软件发展有限公..
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
2
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式：
文摘
详细
列表
相关度排序
被引量排序
时效性排序
基于神经正切核的小数据集回归任务
1
作者
翟玥璟
刘海忠
《信息技术》
2024年第5期73-80,共8页
回归是常见的一类任务,两类特殊的回归模型:支持向量回归(SVR)与核岭回归(KRR)通过核函数解决数据在原始空间线性不可分的问题。一种新型核函数(NTK)被提出用于拟合无限宽神经网络的训练过程,相关研究显示NTK利于处理小数据集。选取多...
回归是常见的一类任务,两类特殊的回归模型:支持向量回归(SVR)与核岭回归(KRR)通过核函数解决数据在原始空间线性不可分的问题。一种新型核函数(NTK)被提出用于拟合无限宽神经网络的训练过程,相关研究显示NTK利于处理小数据集。选取多领域数据集在两种模型中比较NTK与常用核的性能,并对NTK进行了鲁棒性研究。结果表明NTK-SVR模型在部分数据集上取得了2.5%~20%的提升。
展开更多
关键词
神经正切核
核
岭回归
核
函数
支持向量回归
小数据
在线阅读
下载PDF
职称材料
基于NTK理论和改进时间因果的物理信息神经网络加速收敛算法
2
作者
潘小果
王凯
邓维鑫
《力学学报》
EI
CAS
CSCD
北大核心
2024年第7期1943-1958,共16页
物理信息神经网络(physics-informed neural networks,PINNs)是一类将先验物理知识嵌入神经网络的方法,目前已经成为求解偏微分方程领域的研究热点.尽管PINNs在数值模拟方面展现出巨大的应用前景,但它仍然面临收敛缓慢的挑战.文章从神...
物理信息神经网络(physics-informed neural networks,PINNs)是一类将先验物理知识嵌入神经网络的方法,目前已经成为求解偏微分方程领域的研究热点.尽管PINNs在数值模拟方面展现出巨大的应用前景,但它仍然面临收敛缓慢的挑战.文章从神经正切核(neural tangent kernel,NTK)理论出发,通过对单隐藏层神经网络模型进行分析,推出PINNs的神经正切核矩阵具体表达式,并以此进一步分析PINNs收敛速度的影响因素,给出PINNs快速收敛的两个必要条件.应用神经正切核理论分析PINNs领域的3种相关算法(时间因果算法、傅里叶特征嵌入、学习率退火)的加速收敛效果,结果表明这3种算法均不能满足PINNs加速收敛的所有必要条件.文章提出一种动态傅里叶特征嵌入时间因果算法(dynamic Fourier feature embedding causality,DFFEC),综合考虑了NTK矩阵特征值平衡和时间顺序收敛对PINNs收敛速度的影响,在AllenCahn,Reaction,Burgers和Advection等4个算例上的数值实验结果表明,所提出的DFFEC算法可以显著提高PINNs的收敛速度.特别是在Allen-Cahn算例上,与时间因果算法相比,所提出的DFFEC算法具有至少50倍的加速收敛效果.
展开更多
关键词
物理信息
神经
网络
收敛速度
谱偏差
神经正切核
非定常流动
在线阅读
下载PDF
职称材料
题名
基于神经正切核的小数据集回归任务
1
作者
翟玥璟
刘海忠
机构
兰州交通大学
出处
《信息技术》
2024年第5期73-80,共8页
基金
甘肃省教育厅优秀研究生创新之星项目(2022CXZX-590)。
文摘
回归是常见的一类任务,两类特殊的回归模型:支持向量回归(SVR)与核岭回归(KRR)通过核函数解决数据在原始空间线性不可分的问题。一种新型核函数(NTK)被提出用于拟合无限宽神经网络的训练过程,相关研究显示NTK利于处理小数据集。选取多领域数据集在两种模型中比较NTK与常用核的性能,并对NTK进行了鲁棒性研究。结果表明NTK-SVR模型在部分数据集上取得了2.5%~20%的提升。
关键词
神经正切核
核
岭回归
核
函数
支持向量回归
小数据
Keywords
Neural Tangent Kernel
Kernel Ridge Regression
Kernel function
support vector regression
mini-data
分类号
TP391 [自动化与计算机技术—计算机应用技术]
在线阅读
下载PDF
职称材料
题名
基于NTK理论和改进时间因果的物理信息神经网络加速收敛算法
2
作者
潘小果
王凯
邓维鑫
机构
四川大学机械工程学院
中国空气动力研究与发展中心空天技术研究所
出处
《力学学报》
EI
CAS
CSCD
北大核心
2024年第7期1943-1958,共16页
基金
国家重点研发计划(2018YFB1700702)
四川省重点研发计划(2022YFG0246)
+1 种基金
2022年度四川大学达州市市校战略合作专项资金(2022CDDZ-06)
2023年度四川大学自贡市校市战略合作专项资金(2023CDZG-03)资助项目。
文摘
物理信息神经网络(physics-informed neural networks,PINNs)是一类将先验物理知识嵌入神经网络的方法,目前已经成为求解偏微分方程领域的研究热点.尽管PINNs在数值模拟方面展现出巨大的应用前景,但它仍然面临收敛缓慢的挑战.文章从神经正切核(neural tangent kernel,NTK)理论出发,通过对单隐藏层神经网络模型进行分析,推出PINNs的神经正切核矩阵具体表达式,并以此进一步分析PINNs收敛速度的影响因素,给出PINNs快速收敛的两个必要条件.应用神经正切核理论分析PINNs领域的3种相关算法(时间因果算法、傅里叶特征嵌入、学习率退火)的加速收敛效果,结果表明这3种算法均不能满足PINNs加速收敛的所有必要条件.文章提出一种动态傅里叶特征嵌入时间因果算法(dynamic Fourier feature embedding causality,DFFEC),综合考虑了NTK矩阵特征值平衡和时间顺序收敛对PINNs收敛速度的影响,在AllenCahn,Reaction,Burgers和Advection等4个算例上的数值实验结果表明,所提出的DFFEC算法可以显著提高PINNs的收敛速度.特别是在Allen-Cahn算例上,与时间因果算法相比,所提出的DFFEC算法具有至少50倍的加速收敛效果.
关键词
物理信息
神经
网络
收敛速度
谱偏差
神经正切核
非定常流动
Keywords
physics-informed neural networks
convergence rate
spectrum bias
neural tangent kernel
unsteady flow
分类号
TP183 [自动化与计算机技术—控制理论与控制工程]
在线阅读
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
基于神经正切核的小数据集回归任务
翟玥璟
刘海忠
《信息技术》
2024
0
在线阅读
下载PDF
职称材料
2
基于NTK理论和改进时间因果的物理信息神经网络加速收敛算法
潘小果
王凯
邓维鑫
《力学学报》
EI
CAS
CSCD
北大核心
2024
0
在线阅读
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部
