现有的深度学习研究都依赖于网络的自发学习能力,在训练过程中力求避免或尽量减少人为先验知识的设定,导致网络训练过程完全“黑盒”,研究人员很难从语义上进行阐述。针对这种情况,文中提出了一种基于原始LSTM网络的改进——多尺度层级L...现有的深度学习研究都依赖于网络的自发学习能力,在训练过程中力求避免或尽量减少人为先验知识的设定,导致网络训练过程完全“黑盒”,研究人员很难从语义上进行阐述。针对这种情况,文中提出了一种基于原始LSTM网络的改进——多尺度层级LSTM(Multi-Scale Hierarchical Long Short-Term Memory,MSH-LSTM)网络。该网络保留了神经网络的常规实现流程,在网络学习过程中将层级网络结构与人的经验知识有机结合,使网络在人为指引下有目的地训练,不再是完全的“黑盒”,同时对时间序列更好地进行分析预测。为说明MSH-LSTM网络结构的有效性,实验选取了两种时间序列数据(气温、股票),结果表明,相较于ANN网络、LSTM网络及GRU网络,MSH-LSTM网络在保证网络适用性的同时更具分析预测优势。在气温实验中,由于MSH-LSTM与常规LSTM,GRU网络都利用了序列数据的时间因素,因此,它们的效果明显优于ANN;在股票实验中,MSH-LSTM的MAPE误差相对于常规LSTM,GRU,ANN网络分别平均提升了约19.65%,24.35%,46.30%。展开更多
文摘现有的深度学习研究都依赖于网络的自发学习能力,在训练过程中力求避免或尽量减少人为先验知识的设定,导致网络训练过程完全“黑盒”,研究人员很难从语义上进行阐述。针对这种情况,文中提出了一种基于原始LSTM网络的改进——多尺度层级LSTM(Multi-Scale Hierarchical Long Short-Term Memory,MSH-LSTM)网络。该网络保留了神经网络的常规实现流程,在网络学习过程中将层级网络结构与人的经验知识有机结合,使网络在人为指引下有目的地训练,不再是完全的“黑盒”,同时对时间序列更好地进行分析预测。为说明MSH-LSTM网络结构的有效性,实验选取了两种时间序列数据(气温、股票),结果表明,相较于ANN网络、LSTM网络及GRU网络,MSH-LSTM网络在保证网络适用性的同时更具分析预测优势。在气温实验中,由于MSH-LSTM与常规LSTM,GRU网络都利用了序列数据的时间因素,因此,它们的效果明显优于ANN;在股票实验中,MSH-LSTM的MAPE误差相对于常规LSTM,GRU,ANN网络分别平均提升了约19.65%,24.35%,46.30%。
