期刊文献+
共找到3,360篇文章
< 1 2 168 >
每页显示 20 50 100
融合蚁群算法和差分Transformer的农业机器人路径规划研究 被引量:1
1
作者 李娟 张振荣 《中国农机化学报》 北大核心 2025年第7期164-172,共9页
针对农业机器人在复杂田间环境中路径规划精度不足、避障能力有限的问题,提出一种融合蚁群算法和差分Transformer的新型路径规划方法。采用蚁群算法进行初始全局路径搜索,利用其分布式并行搜索能力生成初始可行路径。针对传统蚁群算法... 针对农业机器人在复杂田间环境中路径规划精度不足、避障能力有限的问题,提出一种融合蚁群算法和差分Transformer的新型路径规划方法。采用蚁群算法进行初始全局路径搜索,利用其分布式并行搜索能力生成初始可行路径。针对传统蚁群算法中信息素更新方式容易陷入局部最优、对环境动态变化适应性差的缺陷,设计差分Transformer模型替代原有的信息素更新方法。差分Transformer通过自注意力机制,捕捉路径节点之间的长距离依赖关系和非线性特征,对信息素进行更精准地更新和分配,增强算法对复杂环境的适应能力。实验结果表明,所提出的方法在路径长度、规划时间和避障成功率等指标上均优于传统算法。具体而言,与蚁群算法相比,区域规模为50时,路径长度平均减少16.8%,从平均150 m降至125 m;规划时间缩短23.5%,从平均2.13 s降至1.63 s;避障成功率提高11.2%,达到96.5%。该研究为农业机器人自主导航提供有效的解决方案,具有重要的理论意义和应用价值。 展开更多
关键词 农业机器人 路径规划 蚁群算法 差分transformer 智慧农业
在线阅读 下载PDF
Anti-aliasing nonstationary signals detecion algorithm based on interpolation in the frequency domain using the short time Fourier transform 被引量:7
2
作者 Bian Hailong Chen Guangju 《Journal of Systems Engineering and Electronics》 SCIE EI CSCD 2008年第3期419-426,共8页
To eliminate the aliasing that appeared during the measurement of multi-components nonstationary signals, a novel kind of anti-aliasing algorithm based on the short time Fourier transform (STFT) is brought forward. ... To eliminate the aliasing that appeared during the measurement of multi-components nonstationary signals, a novel kind of anti-aliasing algorithm based on the short time Fourier transform (STFT) is brought forward. First the physical essence of aliasing that occurs is analyzed; second the interpolation algorithm model is setup based on the Hamming window; then the fast implementation of the algorithm using the Newton iteration method is given. Using the numerical simulation the feasibility of algorithm is validated. Finally, the electrical circuit experiment shows the practicality of the algorithm in the electrical engineering. 展开更多
关键词 nonstationary signal INTERPOLATION ANTI-ALIASING short time Fourier transform (STFT) iterative algorithm.
在线阅读 下载PDF
Spectral matching algorithm based on nonsubsampled contourlet transform and scale-invariant feature transform 被引量:4
3
作者 Dong Liang Pu Yan +2 位作者 Ming Zhu Yizheng Fan Kui Wang 《Journal of Systems Engineering and Electronics》 SCIE EI CSCD 2012年第3期453-459,共7页
A new spectral matching algorithm is proposed by us- ing nonsubsampled contourlet transform and scale-invariant fea- ture transform. The nonsubsampled contourlet transform is used to decompose an image into a low freq... A new spectral matching algorithm is proposed by us- ing nonsubsampled contourlet transform and scale-invariant fea- ture transform. The nonsubsampled contourlet transform is used to decompose an image into a low frequency image and several high frequency images, and the scale-invariant feature transform is employed to extract feature points from the low frequency im- age. A proximity matrix is constructed for the feature points of two related images. By singular value decomposition of the proximity matrix, a matching matrix (or matching result) reflecting the match- ing degree among feature points is obtained. Experimental results indicate that the proposed algorithm can reduce time complexity and possess a higher accuracy. 展开更多
关键词 point pattern matching nonsubsampled contourlet transform scale-invariant feature transform spectral algorithm.
在线阅读 下载PDF
An Algorithm for Ship Wake Detection from the SAR Images Using the Radon Transform and Morphological Image Processing 被引量:2
4
作者 金亚秋 王世庆 《Journal of Systems Engineering and Electronics》 SCIE EI CSCD 2001年第4期7-12,共6页
Using the Radon transform and morphological image processing, an algorithm for ship's wake detection in the SAR (synthetic aperture radar) image is developed. Being manipulated in the Radon space to invert the gra... Using the Radon transform and morphological image processing, an algorithm for ship's wake detection in the SAR (synthetic aperture radar) image is developed. Being manipulated in the Radon space to invert the gray-level and binary images, the linear texture of ship wake in oceanic clutter can be well detected. It has been applied to the automatic detection of a moving ship from the SEASAT SAR image. The results show that this algorithm is well robust in a strong noisy background and is not very sensitive to the threshold parameter and the working window size. 展开更多
关键词 algorithmS Image processing Mathematical transformations Radar clutter Radar target recognition Spurious signal noise Synthetic aperture radar
在线阅读 下载PDF
Fast Algorithm for Nonsubsampled Contourlet Transform 被引量:5
5
作者 Chun-Man YAN Bao-Long GUO Meng YI 《自动化学报》 EI CSCD 北大核心 2014年第4期757-762,共6页
多尺度的几何分析(MGA ) 为图象处理作为有效策略被认出了。作为 MGA 的分离工具之一, nonsubsampled contourlet 变换(NSCT ) 广泛地被使用了图象降噪,图象熔化,图象改进,特征抽取等等。然而,处理表演由于它的高冗余性被限制,并... 多尺度的几何分析(MGA ) 为图象处理作为有效策略被认出了。作为 MGA 的分离工具之一, nonsubsampled contourlet 变换(NSCT ) 广泛地被使用了图象降噪,图象熔化,图象改进,特征抽取等等。然而,处理表演由于它的高冗余性被限制,并且导致集中的计算效率。因此,它的快算法在实践被需要。在这份报纸,我们采用一个优化方向性的过滤器银行(DFB ) 并且把它嵌进 NSCT 当使重建的表演的损失细微时,显著地加速计算速度。试验性的结果证明重建的图象质量能满足人的视觉系统。而且,改进 NSCT 有速度关于若干次比传统的的。图象降噪上的试验性的结果也验证建议方法的可行性和效率。 展开更多
关键词 CONTOURLET变换 快速算法 抽样 多尺度几何分析 图像处理 图像去噪 运算速度 图像融合
在线阅读 下载PDF
An Orthogonal Wavelet Transform Fractionally Spaced Blind Equalization Algorithm Based on the Optimization of Genetic Algorithm
6
作者 廖娟 郭业才 季童莹 《Defence Technology(防务技术)》 SCIE EI CAS 2011年第2期65-71,共7页
An orthogonal wavelet transform fractionally spaced blind equalization algorithm based on the optimization of genetic algorithm(WTFSE-GA) is proposed in viewof the lowconvergence rate,large steady-state mean square er... An orthogonal wavelet transform fractionally spaced blind equalization algorithm based on the optimization of genetic algorithm(WTFSE-GA) is proposed in viewof the lowconvergence rate,large steady-state mean square error and local convergence of traditional constant modulus blind equalization algorithm(CMA).The proposed algorithm can reduce the signal autocorrelation through the orthogonal wavelet transform of input signal of fractionally spaced blind equalizer,and decrease the possibility of CMA local convergence by using the global random search characteristics of genetic algorithm to optimize the equalizer weight vector.The proposed algorithm has the faster convergence rate and smaller mean square error compared with FSE and WT-FSE.The efficiency of the proposed algorithm is proved by computer simulation of underwater acoustic channels. 展开更多
关键词 information processing technique genetic algorithm orthogonal wavelet transform fractionally spaced equalizer blind equalization underwater acoustic channel
在线阅读 下载PDF
基于分解技术的IZOA-Transformer-BiGRU短期风电功率预测 被引量:3
7
作者 蒲晓云 杨靖 +1 位作者 杨兴 宁媛 《电子测量技术》 北大核心 2025年第2期39-48,共10页
准确的风电功率预测对于保障电网平稳运行和提升风资源利用效率具有重要意义。针对风电功率数据的非平稳性和间歇性等特征,本文提出了一种结合数据分解技术的IZOA-Transformer-BiGRU组合预测模型,以提升短期风电功率预测的精度和可靠性... 准确的风电功率预测对于保障电网平稳运行和提升风资源利用效率具有重要意义。针对风电功率数据的非平稳性和间歇性等特征,本文提出了一种结合数据分解技术的IZOA-Transformer-BiGRU组合预测模型,以提升短期风电功率预测的精度和可靠性。首先,采用能量差值法确定变分模态分解(VMD)的子模态数,将具有较强随机波动性的原始风电功率分解为一系列相对平稳的子序列,从而更加充分地提取时序特征。其次,构建Transformer-BiGRU模型,引入多头注意力机制并行处理多个特征之间的交互关系,并利用BiGRU捕捉时序序列间的前后依赖性,从而提升预测性能。为了进一步优化模型性能,采用融合Singer混沌映射、透镜折射反向学习和单纯形法策略的改进斑马优化算法(IZOA),对Transformer-BiGRU模型的隐藏层神经元数、初始学习率、正则化系数和多头注意力头数四个关键超参数进行优化。最后,通过IZOA-Transformer-BiGRU对分解后的各子序列进行预测,经过叠加重构得到最终的预测结果。实验结果表明,与单一BiGRU模型相比,所提模型的决定系数提升了5.10%,平均绝对误差、均方根误差以及平均绝对百分比误差分别降低了56.17%、54.58%、54.55%,具有较高的预测精度。 展开更多
关键词 风电功率预测 变分模态分解 transformER 双向门控循环单元 能量差值法 斑马优化算法
在线阅读 下载PDF
基于SVMD-BKA-Transformer的IGBT寿命预测模型 被引量:1
8
作者 邓阳 柴琳 汪亮 《半导体技术》 北大核心 2025年第7期698-706,共9页
绝缘栅双极型晶体管(IGBT)在持续运行过程中易老化失效,引发电力电子装置故障,因此需对IGBT进行寿命预测。提出了一种改进模型用于IGBT寿命预测。首先,以集射极关断尖峰电压(V_(ce-p))为退化特征,对IGBT进行功率循环加速老化试验;获取... 绝缘栅双极型晶体管(IGBT)在持续运行过程中易老化失效,引发电力电子装置故障,因此需对IGBT进行寿命预测。提出了一种改进模型用于IGBT寿命预测。首先,以集射极关断尖峰电压(V_(ce-p))为退化特征,对IGBT进行功率循环加速老化试验;获取相关参数数据并进行处理;利用逐次变分模态分解(SVMD)技术将退化特征数据分解为多个模态。其次,构建Transformer模型,并采用黑翅鸢算法(BKA)寻找其最优超参数以提升预测精度。最后,通过实际IGBT退化特征数据对所提模型进行性能验证。实验结果表明,SVMD-BKA-Transformer模型提升了预测精度:决定系数(R^(2))达到0.9583,平均绝对误差(MAE)降至0.0295 V,均方根误差(RMSE)减小至0.0365 V,性能优于对比模型。 展开更多
关键词 绝缘栅双极型晶体管(IGBT) 寿命预测 模态分解 黑翅鸢算法(BKA) transformER
在线阅读 下载PDF
基于MVMD-BKA-Transformer的短期光伏功率预测
9
作者 黄瑞承 成燕 +1 位作者 查航伟 董国鹏 《电源技术》 北大核心 2025年第10期2182-2190,共9页
针对传统分解预测方法忽略多元气象因素分解时自身在时域及频域上的耦合关系,及Transformer训练时间长、学习效率低等问题,提出基于多元变分模态分解(MVMD)和黑翅鸢优化算法(BKA)改进的Transformer的短期光伏功率预测方法。利用K-means... 针对传统分解预测方法忽略多元气象因素分解时自身在时域及频域上的耦合关系,及Transformer训练时间长、学习效率低等问题,提出基于多元变分模态分解(MVMD)和黑翅鸢优化算法(BKA)改进的Transformer的短期光伏功率预测方法。利用K-means算法,根据辐照度将数据分类为α类和β类,并使用MVMD将多元气象因素及光伏功率分解为频率对齐的多元本征模态函数,保留原始序列耦合性的基础上,提高气象因素的平稳性。针对多元本征模态函数,分别构建BKA改进过的Transformer预测模型。选用澳大利亚沙漠知识太阳能中心(DKASC)的数据集进行验证与对比。实验仿真结果显示,提出的模型各项误差指标表现最优,具有较高的预测精度。 展开更多
关键词 光伏功率预测 多元变分模态分解 黑翅鸢优化算法 transformER
在线阅读 下载PDF
基于粒子滤波器和Transformer-BiLSTM的大坝边坡变形时变预测模型
10
作者 王赫显 陈波 +1 位作者 郭凌云 周程涛 《水电能源科学》 北大核心 2025年第10期139-143,149,共6页
为了精确预测大坝边坡的变形,提出了一种基于粒子滤波器与Transformer-BiLSTM(T-B)算法的时变预测模型,首先利用粒子滤波器对降雨量、水库水位和温度等环境参数进行去噪处理,提高数据质量,随后结合环境参数与空间特征,采用T-B算法对大... 为了精确预测大坝边坡的变形,提出了一种基于粒子滤波器与Transformer-BiLSTM(T-B)算法的时变预测模型,首先利用粒子滤波器对降雨量、水库水位和温度等环境参数进行去噪处理,提高数据质量,随后结合环境参数与空间特征,采用T-B算法对大坝边坡的时空变形进行建模与预测,进而以西南地区某大坝边坡工程为例,通过定性与定量方法验证了模型的预测性能,并分析了主要影响因素。结果表明,粒子滤波器有效增强了环境数据的特征提取能力;T-B模型能够准确捕捉边坡变形的时空分布特征;融合粒子滤波器和T-B算法的模型在预测不同测点的变形时精度很高,其中,误差指标(均方误差(M_(MSE))、均方根误差(R_(RMSE))、平均绝对误差(M_(MAE)))接近0,拟合度指标(决定系数R^(2)、相关系数)接近1;降雨量、水库水位和温度为主要影响因素,其重要性依次递减。所提模型能够为大坝安全监测提供高效可靠的预测手段。 展开更多
关键词 大坝边坡 变形预测 时变预测模型 transformer-BiLSTM算法 粒子滤波器 影响因素
在线阅读 下载PDF
基于Transformer模型与注意力机制的差分密码分析
11
作者 肖超恩 李子凡 +2 位作者 张磊 王建新 钱思源 《计算机工程》 北大核心 2025年第1期156-163,共8页
基于差分分析的密码攻击中,通常使用贝叶斯优化方法验证部分解密的数据是否具有差分特性。目前,主要采用基于深度学习的方式训练1个差分区分器,但随着加密轮数的增加,差分特征的精确度会呈现线性降低的趋势。为此,结合注意力机制和侧信... 基于差分分析的密码攻击中,通常使用贝叶斯优化方法验证部分解密的数据是否具有差分特性。目前,主要采用基于深度学习的方式训练1个差分区分器,但随着加密轮数的增加,差分特征的精确度会呈现线性降低的趋势。为此,结合注意力机制和侧信道分析,提出了一种新的差分特性判别方法。根据多轮密文间的差分关系,基于Transformer训练了1个针对SPECK32/64算法的差分区分器。在密钥恢复攻击中,借助前一轮的密文对待区分密文影响最大特性,设计了新的密钥恢复攻击方案。在SPECK32/64算法的密钥恢复攻击中,采用26个选择明密文对,并借助第20轮密文对将第22轮65536个候选密钥范围缩小至17个以内,完成对最后两轮子密钥的恢复攻击。实验结果表明,该方法的攻击成功率达90%,可以有效应对加密轮数增多造成的密文差分特征难以识别的问题。 展开更多
关键词 transformer模型 注意力机制 差分区分器 SPECK32/64算法 密钥恢复攻击
在线阅读 下载PDF
基于ISSA-Transformer的电梯制动力矩预测研究
12
作者 苏万斌 江叶峰 +2 位作者 李科 周振超 易灿灿 《机电工程》 北大核心 2025年第10期2027-2036,共10页
实现电梯制动器力矩的精确预测对确保电梯安全运行和实现预测性维护具有重要的意义。针对曳引式电梯在制动力矩预测方面存在准确性与可靠性不足的问题,以及现有Transformer存在计算复杂度高和训练时间长的局限性,提出了一种基于改进鲸... 实现电梯制动器力矩的精确预测对确保电梯安全运行和实现预测性维护具有重要的意义。针对曳引式电梯在制动力矩预测方面存在准确性与可靠性不足的问题,以及现有Transformer存在计算复杂度高和训练时间长的局限性,提出了一种基于改进鲸沙虫群算法优化Transformer网络(ISSA-Transformer)的电梯制动力矩预测方法。首先,为了提高Transformer的预测精度,在Transformer模型中添加了特征融合门(FFG)以提高模型的特征提取能力,使其能够更有效地捕捉制动力矩的全局与局部特征;然后,利用拉普拉斯交叉算子、混合对立学习方法以及高斯扰动对鲸沙虫群算法(SSA)进行了改进,以增强SSA的搜索能力和全局最优收敛性。并采用ISSA算法优化了Transformer的迭代次数、批次大小和学习率,以提高模型的计算效率并减少训练时间,从而建立了电梯制动器制动力矩的预测模型;最后,对曳引式电梯制动器数据进行了分析,将所得结果与LSTM、Transformer和SSA-Transformer模型进行了比较。研究结果表明:ISSA-Transformer的均方根误差(RMSE)较LSTM、Transformer和SSA-Transformer模型分别降低了0.0318、0.0144和0.0133,用于电梯制动力矩预测的准确率达到了98.7%,相较传统方法具有更高的精度和稳定性。该方法可为电梯的安全评估和预测性维护提供更可靠的技术支持。 展开更多
关键词 曳引式电梯 升降台 电梯制动器 改进鲸沙虫群算法 transformer网络 特征融合门 均方根误差 长短期记忆网络
在线阅读 下载PDF
基于NRBO-Transformer-BiLSTM的柔性薄壁轴承细粒度故障诊断
13
作者 郭明军 陈昕昀 +2 位作者 石淇 李鑫 赵学智 《现代制造工程》 北大核心 2025年第11期136-145,34,共11页
针对现有柔性薄壁轴承的细粒度故障识别及其现有诊断方法特征提取不足等问题,提出一种基于牛顿-拉夫逊优化(Newton-Raphson-Based Optimizer,NRBO)算法优化的Transformer编码层与双向长短期记忆(Bi-directional Long Short-Term Memory,... 针对现有柔性薄壁轴承的细粒度故障识别及其现有诊断方法特征提取不足等问题,提出一种基于牛顿-拉夫逊优化(Newton-Raphson-Based Optimizer,NRBO)算法优化的Transformer编码层与双向长短期记忆(Bi-directional Long Short-Term Memory,BiLSTM)神经网络解码层相结合的故障诊断方法。该方法首先使用时变滤波经验模态分解(Time-Varying Filter Empirical Mode Decomposition,TVFEMD)柔性薄壁轴承振动加速度信号,同时采用NRBO算法对其时变滤波带宽和B样条阶数等参数进行优化,依据互相关系数准则筛选主要本征模态分量(Intrinsic Mode Function,IMF),计算其时频域特征,结合振动加速度信号的时域、频域特征构建多域特征数据集,并按比例划分为训练集和测试集;其次将训练集输入模型,通过NRBO算法对模型初始学习率、BiLSTM神经网络的隐藏层节点数以及Transformer模型的正则化系数进行优化;通过测试集对优化模型进行测试,并与其他细粒度故障诊断模型对比。结果表明,所提方法准确率达99.60%,高于其他模型。该方法可为柔性薄壁轴承细粒度的智能诊断提供一种新的研究思路,对其他相关领域的智能化健康管理亦可提供有益借鉴。 展开更多
关键词 柔性薄壁轴承 故障诊断 牛顿-拉夫逊优化算法 双向长短期记忆网络 transformer模型 时变滤波经验模态分解
在线阅读 下载PDF
融合Transformer网络与维纳过程的贮备系统寿命预测
14
作者 任锦程 郑建飞 +2 位作者 胡昌华 董海迪 裴洪 《哈尔滨工程大学学报》 北大核心 2025年第5期955-966,共12页
针对备件存储失效下基于深度学习的贮备系统寿命预测模型的不确定性水平难以量化,并且基于随机过程的模型在处理复杂和海量数据时存在一定的局限性问题。本文提出一种融合Transformer网络与维纳过程的非线性退化贮备系统寿命预测方法。... 针对备件存储失效下基于深度学习的贮备系统寿命预测模型的不确定性水平难以量化,并且基于随机过程的模型在处理复杂和海量数据时存在一定的局限性问题。本文提出一种融合Transformer网络与维纳过程的非线性退化贮备系统寿命预测方法。采用SG滤波器和CEEMADN算法对历史数据进行预处理提取退化趋势;通过Transformer网络自适应估计非线性维纳过程的退化趋势函数;推导出在首达时间意义下贮备系统寿命概率密度函数的解析表达式,通过数值仿真验证了该方法的有效性,并成功应用于锂电池实例进行了准确的寿命预测。 展开更多
关键词 transformer网络 退化趋势函数 贮备系统 寿命预测 维纳过程 存储失效 自适应估计 CEEMDAN算法
在线阅读 下载PDF
基于Transformer算法的智能完井异常检测方法
15
作者 ARANHA Esteves Pedro POLICARPO Angelica Nara SAMPAIO Augusto Marcio 《石油勘探与开发》 北大核心 2025年第4期907-918,共12页
提出了一种多变量石油生产时间序列数据异常检测方法,基于Transformer算法识别智能完井过程中与层段控制阀相关的异常事件,并开展应用实例分析。Transformer算法能够有效处理数据漂移、捕捉复杂规律,因此在时间序列异常检测方面具有显... 提出了一种多变量石油生产时间序列数据异常检测方法,基于Transformer算法识别智能完井过程中与层段控制阀相关的异常事件,并开展应用实例分析。Transformer算法能够有效处理数据漂移、捕捉复杂规律,因此在时间序列异常检测方面具有显著优势;采用的自注意力机制能够使相关模型适应数据分布随时间发生的漂移,从而弹性应对时间序列数据的可能变化;能够高效识别复杂的时间依赖关系和长程交互作用,而传统模型通常难以实现这一功能。在桑托斯盆地盐下油藏超深水井中进行了现场测试,结果表明:模型实现了层段控制阀异常的早期识别,从而最大限度地减少非生产时间并保护井筒完整性;准确率达到0.954 4,平衡准确率为0.969 4,F1分数为0.957 4,与以往研究中采用的模型相比提升显著。 展开更多
关键词 异常检测 智能完井 层段控制阀 井筒完整性 油井监测 深度学习 transformer算法
在线阅读 下载PDF
基于Transformer的用户侧储能设备安装智能识别方法
16
作者 邓岚 朱晔 +2 位作者 仲皆文 严一帆 王灿鑫 《农村电气化》 2025年第7期81-84,共4页
用户侧储能指的是电力用户安装的储能设备,是新型储能重要组成部分,对保障电力系统安全稳定、促进可再生能源消纳、构建新型电力系统具有重要的作用。用户侧储能的分散性使得难以全量了解储能设备的安装情况,这不仅影响政策的有效监管,... 用户侧储能指的是电力用户安装的储能设备,是新型储能重要组成部分,对保障电力系统安全稳定、促进可再生能源消纳、构建新型电力系统具有重要的作用。用户侧储能的分散性使得难以全量了解储能设备的安装情况,这不仅影响政策的有效监管,也降低了用户侧储能参与需求侧管理工作的积极性。针对这一问题,构建一种用户侧储能设备安装识别方法,通过剔除光伏出力还原用户真实负荷数据,将基于Transformer的时序分类算法首次应用于用户侧储能设备安装识别场景,实现已安装运行的储能设备精准识别,填补技术应用领域空白,支持用户侧储能设备监管工作顺利开展,推动需求侧管理优化,防止潜在的电网安全风险和波动,响应国家加强新型储能并网和调用监督与管理的政策。 展开更多
关键词 用户侧储能 分散性 transformER 时序分类算法 精准识别
在线阅读 下载PDF
基于RoBERTa和图增强Transformer的序列推荐方法 被引量:5
17
作者 王明虎 石智奎 +1 位作者 苏佳 张新生 《计算机工程》 CAS CSCD 北大核心 2024年第4期121-131,共11页
自推荐系统出现以来,有限的数据信息就一直制约着推荐算法的进一步发展。为降低数据稀疏性的影响,增强非评分数据的利用率,基于神经网络的文本推荐模型相继被提出,但主流的卷积或循环神经网络在文本语义理解和长距离关系捕捉方面存在明... 自推荐系统出现以来,有限的数据信息就一直制约着推荐算法的进一步发展。为降低数据稀疏性的影响,增强非评分数据的利用率,基于神经网络的文本推荐模型相继被提出,但主流的卷积或循环神经网络在文本语义理解和长距离关系捕捉方面存在明显劣势。为了更好地挖掘用户与商品之间的深层潜在特征,进一步提高推荐质量,提出一种基于Ro BERTa和图增强Transformer的序列推荐(RGT)模型。引入评论文本数据,首先利用预训练的Ro BERTa模型捕获评论文本中的字词语义特征,初步建模用户的个性化兴趣,然后根据用户与商品的历史交互信息,构建具有时序特性的商品关联图注意力机制网络模型,通过图增强Transformer的方法将图模型学习到的各个商品的特征表示以序列的形式输入Transformer编码层,最后将得到的输出向量与之前捕获的语义表征以及计算得到的商品关联图的全图表征输入全连接层,以捕获用户全局的兴趣偏好,实现用户对商品的预测评分。在3组真实亚马逊公开数据集上的实验结果表明,与Deep FM、Conv MF等经典文本推荐模型相比,RGT模型在均方根误差(RMSE)和平均绝对误差(MAE)2种指标上有显著提升,相较于最优对比模型最高分别提升4.7%和5.3%。 展开更多
关键词 推荐算法 评论文本 RoBERTa模型 图注意力机制 transformer机制
在线阅读 下载PDF
Transformer-CRF词切分方法在蒙汉机器翻译中的应用 被引量:4
18
作者 苏依拉 张振 +3 位作者 仁庆道尔吉 牛向华 高芬 赵亚平 《中文信息学报》 CSCD 北大核心 2019年第10期38-46,共9页
基于编码—解码(端到端)结构的机器翻译逐渐成为自然语言处理之机器翻译的主流方法,其翻译质量较高且流畅度较好,但依然存在词汇受限、上下文语义信息丢失严重等问题。该文首先进行语料预处理,给出一种Transformer-CRF算法来进行蒙古语... 基于编码—解码(端到端)结构的机器翻译逐渐成为自然语言处理之机器翻译的主流方法,其翻译质量较高且流畅度较好,但依然存在词汇受限、上下文语义信息丢失严重等问题。该文首先进行语料预处理,给出一种Transformer-CRF算法来进行蒙古语词素和汉语分词的预处理方法。然后构建了基于Tensor2Tensor的编码—解码模型,为了从蒙古语语料中学习更多的语法和语义知识,该文给出了一种基于词素四元组编码的词向量作为编码器输入,解码阶段。为了进一步缓解神经网络训练时出现的词汇受限问题,该文将专有名词词典引入翻译模型来进一步提高翻译质量和译文忠实度。根据构建模型对不同长度句子进行实验对比,表明模型在处理长时依赖问题上翻译性能得到提高。 展开更多
关键词 蒙汉翻译 transformer-CRF分词算法 蒙古语词素
在线阅读 下载PDF
面向遥感目标检测的无锚框Transformer算法 被引量:6
19
作者 喻九阳 胡天豪 +2 位作者 戴耀南 张德安 夏文凤 《电子学报》 EI CAS CSCD 北大核心 2023年第11期3238-3247,共10页
遥感图像目标具有多方向排布、小且密集等特性,使基于深度学习的旋转目标检测算法存在检测精度不佳的问题.针对这一问题,本文提出了一种面向遥感目标检测的无锚框Transformer算法.首先,采用层次化Transformer采集不同分辨率的特征信息... 遥感图像目标具有多方向排布、小且密集等特性,使基于深度学习的旋转目标检测算法存在检测精度不佳的问题.针对这一问题,本文提出了一种面向遥感目标检测的无锚框Transformer算法.首先,采用层次化Transformer采集不同分辨率的特征信息以扩大特征信息的采集范围.其次,构建一种新的前馈网络(Spacial-FeedForward Neural network,SFFN).SFFN将3×3深度可分离卷积的局部空间特性和多层感知机(MultiLayer Perceptron,MLP)的全局通道特性融合在一起,以解决前馈网络(Feed Forward Neural network,FFN)在局部空间建模上的不足.最后,基于SFFN架构搭建了无锚框检测器,将预测框回归问题分为水平框与旋转框,缓解了旋转框的损失不连续性问题.在DOTA数据集上的测试结果表明,此方法的平均精度达到了75.83%,同时在NWPU VHR-10数据集上5类小目标检测结果达到了92.47%,在遥感目标检测精度上更具竞争力. 展开更多
关键词 遥感图像 目标检测 transformer算法 无锚框检测器
在线阅读 下载PDF
基于IWOA-Transformer的磨煤机故障预警 被引量:5
20
作者 罗毅 段明达 《动力工程学报》 CAS CSCD 北大核心 2024年第6期939-946,共8页
提出了一种基于改进鲸鱼算法优化Transformer网络超参数(IWOA-Transformer)的故障预警方法。该方法利用非线性收敛系数和高斯变异对鲸鱼算法(WOA)进行改进,以提高WOA的收敛速度和避免其陷入局部最优;再采用改进鲸鱼算法(IWOA)优化Transf... 提出了一种基于改进鲸鱼算法优化Transformer网络超参数(IWOA-Transformer)的故障预警方法。该方法利用非线性收敛系数和高斯变异对鲸鱼算法(WOA)进行改进,以提高WOA的收敛速度和避免其陷入局部最优;再采用改进鲸鱼算法(IWOA)优化Transformer的超参数,建立磨煤机故障预警模型;然后,通过预测值和实际值的相似度函数确定自适应阈值,结合专家系统判断故障类型并提出解决方案,实现磨煤机故障预警;最后,以某350 MW热电机组中速磨煤机为例进行故障预警试验。结果表明:所提IWOA-Transformer模型可显著提高预警速度和准确率,具有工程实用价值。 展开更多
关键词 transformer神经网络 鲸鱼优化算法 磨煤机 故障预警 专家系统
在线阅读 下载PDF
上一页 1 2 168 下一页 到第
使用帮助 返回顶部