将SNN部署到类脑处理器的映射优化算法研究

1

作者 陈奥新 陈亮 +2 位作者 李千鹏 王智超 徐东君 《计算机工程与应用》 北大核心 2025年第11期156-165,共10页

近年来,具有生物合理性和能效优势的脉冲神经网络(SNN)受到广泛关注。然而,目前在类脑处理器上部署SNN的映射方案存在通信延迟高、拥塞严重、能耗高和节点连接性不足等问题,从而削弱了其实用性和执行效率。为解决这些问题,提出了基于KL(... 近年来,具有生物合理性和能效优势的脉冲神经网络(SNN)受到广泛关注。然而,目前在类脑处理器上部署SNN的映射方案存在通信延迟高、拥塞严重、能耗高和节点连接性不足等问题,从而削弱了其实用性和执行效率。为解决这些问题,提出了基于KL(Kernighan-Lin)和波尔兹曼退火差分进化(Boltzmann anneal differential evolution,BADE)的改进部署算法,用于将SNN映射到资源受限的类脑处理器上。该算法包括两个步骤:分区和映射。在分区阶段,通过在递归KL算法中引入全局优化策略(GRBKL)来最小化集群之间的通信延迟;在映射阶段,提出利用吸引子导向的BADE算法(BAFDE)寻找最小化通信延迟和最大拥塞的分配方式。用五个SNN实例对该算法进行了评估,结果表明,与SNEAP和SpiNeMap等方法相比,所提出的算法显著降低了通信延迟(分别降低了55.41%和94.73%)和最大拥塞(分别降低了81.27%和97.79%)。 展开更多

关键词 脉冲神经网络(snn) 类脑处理器 启发式算法 片上网络(NOC)

在线阅读 下载PDF 职称材料

基于通信和拓扑感知的SNN分区与映射算法

2

作者 黄尧 柴志雷 《计算机工程》 北大核心 2025年第5期219-228,共10页

脉冲神经网络(SNN)正日益成为研究和模拟大脑各区功能及其相互关联性的重要方法。为了模拟更大规模的脑区域,并行分布式计算已成为模拟SNN的必然选择。然而,随着计算规模的增长,计算节点间的负载不均衡及通信问题成为影响SNN模拟性能的... 脉冲神经网络(SNN)正日益成为研究和模拟大脑各区功能及其相互关联性的重要方法。为了模拟更大规模的脑区域,并行分布式计算已成为模拟SNN的必然选择。然而,随着计算规模的增长,计算节点间的负载不均衡及通信问题成为影响SNN模拟性能的主要因素。针对分布式计算平台,现有分区算法还无法找到全局最佳分区并有效地将工作负载映射到计算核心上。因此,提出一种基于通信和拓扑感知的分区与映射算法,该算法包括分区和拓扑感知映射2个核心步骤。通过引入能够感知SNN连接的分区方法,提高计算效率并降低通信延迟;在拓扑感知映射方法中,利用通信拓扑图和底层网络信息将工作负载高效地分配到各计算节点上,最小化跨不同计算核心的通信成本。实验结果表明,在国家超算济南计算中心的并行计算平台上,采用96进程规模并行模拟SNN基准测试集时,相比现有先进的分区框架,所提方法具有更好的负载均衡和通信性能,同步时间和通信时间分别减少了40%和7.1%,最终的模拟总时间缩短了30%。 展开更多

关键词 脉冲神经网络 分布式计算 负载均衡 超图分区 拓扑感知映射

在线阅读 下载PDF 职称材料

基于Spiking神经网络的光伏系统发电功率预测 被引量：10

3

作者 陈通 孙国强 +3 位作者 卫志农 李慧杰 CHEUNG KWOK W 孙永辉 《电力系统及其自动化学报》 CSCD 北大核心 2017年第6期7-12,44,共7页

为了提高光伏系统发电功率预测的精度,本文提出一种基于Spiking神经网络(SNN)的预测模型。该神经网络采用精确脉冲时间的编码方式,更接近真实的生物神经系统,具有强大的计算能力。考虑季节类型、天气类型和大气温度等主要影响因素,该模... 为了提高光伏系统发电功率预测的精度,本文提出一种基于Spiking神经网络(SNN)的预测模型。该神经网络采用精确脉冲时间的编码方式,更接近真实的生物神经系统,具有强大的计算能力。考虑季节类型、天气类型和大气温度等主要影响因素,该模型采用灰色关联分析法选取相似日。本文应用实际光伏发电系统的数据分别对基于SNN、BP人工神经网络(BP-ANN)和支持向量机(SVM)的预测模型进行测试和评估。预测结果表明:SNN预测模型相比于BP-ANN和SVM模型有较高的预测精度和较强的适用性,可以为光伏系统发电功率预测提供一种可行方法。 展开更多

关键词 光伏系统 spiking神经网络 SpikeProp算法 相似日选择算法 发电功率预测

在线阅读 下载PDF 职称材料

基于脉冲神经元膜电位增量的数据分布统计量及批归一化

4

作者 李炜奇 陈云华 +1 位作者 陈平华 朱春佳 《计算机应用研究》 北大核心 2025年第8期2341-2347,共7页

脉冲神经网络(SNN)因其具有更好的生物解释性、强大的时空信息表征能力,以及超低功耗和延迟特性而受到广泛关注。然而SNN在训练算法、超参数设置、架构设计研究等方面还存在不少挑战性的问题。针对现有SNN归一化(BN)方法无法有效处理时... 脉冲神经网络(SNN)因其具有更好的生物解释性、强大的时空信息表征能力,以及超低功耗和延迟特性而受到广泛关注。然而SNN在训练算法、超参数设置、架构设计研究等方面还存在不少挑战性的问题。针对现有SNN归一化(BN)方法无法有效处理时间依赖性的问题,通过分析膜电位增量在时间步上的传播,提出按时间步逐步计算膜电位增量的时空积累量;以此为数据分布的统计量分别对各个时间步数据进行归一化,并提出按照指数移动平均计算膜电位增量的时空积累量,形成一种带衰减因子的时空累积批归一化(spatio-temporal attenuation cumulative batch normalization,STBN)方法。在CIFAR-10和CIFAR-100及CIFAR10-DVS数据集上的实验结果表明,所提方法能显著提升网络分类精度并降低时延。特别是在CIFAR-100数据集上仅使用两个时间步就获得了76.30%的精度,相比同类模型的先前最优算法精度提升了3.43%。 展开更多

关键词 脉冲神经网络 批归一化 脉冲时间依赖性 脉冲神经网络训练算法

在线阅读 下载PDF 职称材料

基于速率编码的极低延迟深度脉冲神经网络研究

5

作者 熊志民 陈云华 +1 位作者 冯忍 陈平华 《控制理论与应用》 北大核心 2025年第3期531-540,共10页

脉冲神经网络(SNN)具有强大的时空信息表征、异步事件处理能力,但由于脉冲发放过程不具有连续可微性,其训练是一个难题.人工神经网络(ANN)转SNN的方法,能够获得较高推理精度的深度SNN,但却存在SNN网络延迟和功耗过高的问题.为了降低网... 脉冲神经网络(SNN)具有强大的时空信息表征、异步事件处理能力,但由于脉冲发放过程不具有连续可微性,其训练是一个难题.人工神经网络(ANN)转SNN的方法,能够获得较高推理精度的深度SNN,但却存在SNN网络延迟和功耗过高的问题.为了降低网络延迟和功耗,本文从脉冲信息传递的异步特性入手,分析了极低延迟下SNN精度损失的主要原因,提出残余膜电位误差(RMPE)的概念,并对其进行分析与推导,建立残余膜电位与初始膜电位和权重之间的关系模型.基于所建立的残余膜电位模型,提出一种初始膜电位和权重的分层校准算法,减少残余膜电位误差,从而解决脉冲输入序列均匀分布假设与真实分布不一致的问题.提出一种ANN-SNN的双阶段转化框架,在第1阶段,采用带有可训练分层阈值的量化截断激活函数对ANN进行二次训练,以实现量化误差与截断误差的最优化;在第2阶段,对SNN进行微调训练,以进一步缩小残余膜电位误差,使得在极低延迟下的ANN-SNN转化也能获得较高的精度.实验结果表明,本文方法在推理延迟和功耗方面都优于现有的方法. 展开更多

关键词 脉冲神经网络 ANN-snn转化 速率编码

在线阅读 下载PDF 职称材料

大规模脉冲神经网络动态加载仿真方法

6

作者 沈嘉玮 才大业 +2 位作者 杨国青 吕攀 李红 《系统仿真学报》 北大核心 2025年第2期541-550,共10页

针对大规模脉冲神经网络仿真时存在GPU内存需求高的问题,提出一种针对大规模脉冲神经网络的动态加载仿真方法。通过子网络粒度的数据移动,利用主机内存作为更大的内存池,减少GPU显存对于模型仿真规模的限制,实现在单GPU的计算机进行大... 针对大规模脉冲神经网络仿真时存在GPU内存需求高的问题,提出一种针对大规模脉冲神经网络的动态加载仿真方法。通过子网络粒度的数据移动,利用主机内存作为更大的内存池,减少GPU显存对于模型仿真规模的限制,实现在单GPU的计算机进行大规模脉冲神经网络仿真,并使用流水线加速技术减少数据移动对仿真速度的影响。最终实现了在单机GPU的实验环境下仿真百万级别神经元规模的仿真,解决了在脉冲神经网络仿真过程中内存不足的问题。 展开更多

关键词 类脑计算 脉冲神经网络 神经元 突触 仿真

在线阅读 下载PDF 职称材料

神经形态计算:从脉冲神经网络到边缘部署

7

作者 俞诗航 易梦军 +2 位作者 吴洲 申富饶 赵健 《软件学报》 北大核心 2025年第4期1758-1795,共38页

受生物神经系统启发,神经形态计算的概念于20世纪80年代被提出,旨在模拟生物大脑的结构和功能,实现更高效、更具生物合理性的计算方式.作为神经形态计算的代表模型,脉冲神经网络(SNN)因其脉冲稀疏性,事件驱动性、生物可解释性以及硬件... 受生物神经系统启发,神经形态计算的概念于20世纪80年代被提出,旨在模拟生物大脑的结构和功能,实现更高效、更具生物合理性的计算方式.作为神经形态计算的代表模型,脉冲神经网络(SNN)因其脉冲稀疏性,事件驱动性、生物可解释性以及硬件契合性等优势,在资源严格受限的边缘智能任务中得到了广泛应用.针对脉冲神经网络的边缘部署情况进行梳理和汇总,首先从脉冲神经网络模型自身的原理出发,论述脉冲神经网络的高能效计算方式以及巨大的边缘部署潜力.然后介绍当下常见的脉冲神经网络硬件实现工具链,并重点对脉冲神经网络在各类神经形态硬件平台的部署情况做详细的整理与分析.最后,考虑到硬件故障行为已发展为当下研究中不可避免的问题,对脉冲神经网络边缘部署时的故障与容错研究进行概述.从软件模型原理到硬件平台实现,全面系统地介绍神经形态计算的最新进展,分析脉冲神经网络边缘部署时遇到的困难与挑战,并针对这些挑战给出未来可能的解决方向. 展开更多

关键词 神经网络 脉冲神经网络 神经形态计算 边缘智能

在线阅读 下载PDF 职称材料

多突触连接脉冲神经元的突触延迟在线监督学习算法

8

作者 王向文 邹丽 范景行 《计算机应用研究》 北大核心 2025年第8期2421-2427,共7页

神经科学研究表明,突触延迟在神经信息处理过程中扮演着积极角色,且多突触连接广泛分布于神经系统中。然而,当前脉冲神经网络建模时大多采用单突触连接模式,且在监督学习算法的设计中未充分考虑突触延迟的影响,限制了其潜在性能。鉴于此... 神经科学研究表明,突触延迟在神经信息处理过程中扮演着积极角色,且多突触连接广泛分布于神经系统中。然而,当前脉冲神经网络建模时大多采用单突触连接模式,且在监督学习算法的设计中未充分考虑突触延迟的影响,限制了其潜在性能。鉴于此,构建了一个具有多突触连接的脉冲神经元网络,并提出了一种具有生物可解释性的在线监督学习算法,能够同时优化脉冲神经元的突触权值与突触延迟。该算法应用脉冲序列的核函数表示构造实时误差函数,并应用梯度下降方法推导突触权值和突触延迟的实时更新规则。脉冲序列学习和非线性模式分类任务的结果表明,动态突触延迟学习算法比静态突触延迟学习算法的学习准确率更高且所需的学习周期更少,并且多突触连接比单突触连接的学习准确率更高。可见,突触延迟可塑性以及多突触连接模式可以有效提升脉冲神经网络的学习性能。 展开更多

关键词 脉冲神经网络 在线监督学习 突触延迟学习 多突触连接

在线阅读 下载PDF 职称材料

基于灰度纹理特征提取和CS-SNN的双初级永磁同步直线电机退磁故障诊断研究 被引量：8

9

作者 刘铄 宋俊材 +2 位作者 陆思良 吴先红 丁伟 《中国电机工程学报》 EI CSCD 北大核心 2023年第16期6464-6473,共10页

引入一种基于图像形态学纹理特征提取与布谷鸟搜索优化脉冲神经网络(cuckoo search-spiking neural network,CS-SNN)算法相结合的方法,以解决双初级永磁同步直线电机(dual primary permanent magnet synchronous linear motor,DPPMSLM)... 引入一种基于图像形态学纹理特征提取与布谷鸟搜索优化脉冲神经网络(cuckoo search-spiking neural network,CS-SNN)算法相结合的方法,以解决双初级永磁同步直线电机(dual primary permanent magnet synchronous linear motor,DPPMSLM)退磁故障精细定量化诊断识别的问题。首先,根据DPPMSLM拓扑结构约束,通过有限元仿真提取电机气隙空间中三线磁密信号作为有效故障信号;其次,引入图像纹理分析的方法,将一维数据信号映射为二维灰度图像,再采用伽马矫正和边缘提取技术增强图像信息,以提取图像纹理特征组成故障特征向量;然后建立两级CS-SNN分类器实现退磁故障位置类型和严重程度的精确诊断分类;最后,通过退磁样机制作和实验平台验证,提出的新方法能够准确识别DPPMSLM退磁故障位置和严重程度,并具有良好的鲁棒性,是一种有效可行的方法。 展开更多

关键词 双初级永磁同步直线电机 退磁故障诊断 图像纹理分析 故障特征向量 布谷鸟搜索优化脉冲神经网络

在线阅读 下载PDF 职称材料

SWAM:SNN工作负载自动映射器 被引量：4

10

作者 郁龚健 张鲁飞 +4 位作者 李佩琦 华夏 刘家航 柴志雷 陈闻杰 《计算机科学与探索》 CSCD 北大核心 2021年第9期1641-1657,共17页

为了满足大规模脉冲神经网络(SNN)的计算需求,类脑计算系统通常需要采用大规模并行计算平台。因此,如何快速为SNN工作负载确定合理的计算节点数(即如何把工作负载合理映射到计算平台上)以获得最佳的性能、功耗等指标就成为类脑计算系统... 为了满足大规模脉冲神经网络(SNN)的计算需求,类脑计算系统通常需要采用大规模并行计算平台。因此,如何快速为SNN工作负载确定合理的计算节点数(即如何把工作负载合理映射到计算平台上)以获得最佳的性能、功耗等指标就成为类脑计算系统需解决的关键问题之一。首先分析了SNN工作负载特性并为其建立起计算模型;然后针对NEST类脑仿真器,进一步实例化了SNN的内存、计算和通信负载模型;最终设计并实现了一种基于NEST的SNN工作负载自动映射器(SWAM)。SWAM可以自动计算出映射结果并完成映射,避免了极其耗时的工作负载映射手动试探过程。在ARM+FPGA、纯ARM、PC集群三种不同的计算平台上运行SNN典型应用,并比较SWAM、LM算法拟合和实测的映射结果。实验结果表明:SWAM的平均映射准确率达到98.833%,与LM方法与实测映射相比,SWAM具有绝对的时间代价优势。 展开更多

关键词 脉冲神经网络(snn) 工作负载映射 PYNQ集群 现场可编程逻辑门阵列(FPGA)加速 NEST仿真器

在线阅读 下载PDF 职称材料

基于SNN神经元重分布的NEST仿真器性能优化 被引量：2

11

作者 刘家航 郁龚健 +3 位作者 李佩琦 华夏 柴志雷 陈闻杰 《计算机工程》 CAS CSCD 北大核心 2022年第3期189-196,共8页

为满足大规模脉冲神经网络(SNN)的计算需求,类脑计算系统通常需要采用大规模并行计算平台。然而随着节点数量的增多,通信在仿真中所占比例大幅增加,导致计算效率下降。类脑模拟器开源软件NEST采用缓冲区大小相等的策略,有效缩短了通信时... 为满足大规模脉冲神经网络(SNN)的计算需求,类脑计算系统通常需要采用大规模并行计算平台。然而随着节点数量的增多,通信在仿真中所占比例大幅增加,导致计算效率下降。类脑模拟器开源软件NEST采用缓冲区大小相等的策略,有效缩短了通信时间,但是由于缓冲区互相无交流,使得通信数据量持续增加,因此其在能耗方面表现较差。分析NEST集群的负载特性,针对其中的通信问题进行稀疏性优化,提出基于SNN子图跨节点优化的神经元重分布算法ReLOC。通过优化SNN子图的跨节点分布减少每一轮神经元到进程的数量,从而减少跨节点脉冲,使进程间通信更加稀疏,达到缩减每一轮通信进程的目的。在此基础上,以稀疏交换的思想对NEST本身的通信机制进行改进,使有脉冲交换的进程进行数据交换,从而在连接稀疏的情况下提升通信效率。以包含28个Xilinx PYNQ节点的计算集群作为实验平台,运行皮质微电路SNN模型和平衡随机网络模型,验证ReLOC算法的有效性。实验结果表明,相比循环分布算法,重分布算法能够使通信的平均稀疏性提高20%,同时配合稀疏交换最多可使通信能耗减少98.63%。 展开更多

关键词 脉冲神经网络 神经元重分布 PYNQ集群 NEST仿真器 稀疏交换

在线阅读 下载PDF 职称材料

基于联合权重超图划分的SNN负载均衡方法 被引量：2

12

作者 徐聪 叶钧超 +1 位作者 黄尧 柴志雷 《计算机应用研究》 CSCD 北大核心 2023年第7期2130-2137,共8页

大规模脉冲神经网络并行模拟是探究大脑机能的重要手段。其难点在于合理地将负载映射到并行分布式平台上,提升模拟速度。为解决该问题,提出一种基于联合权重超图划分的SNN负载均衡方法,解决并行计算中进程间计算负载与通信负载的均衡问... 大规模脉冲神经网络并行模拟是探究大脑机能的重要手段。其难点在于合理地将负载映射到并行分布式平台上,提升模拟速度。为解决该问题,提出一种基于联合权重超图划分的SNN负载均衡方法,解决并行计算中进程间计算负载与通信负载的均衡问题,提高SNN模拟速度,并使用稀疏通信的方式替代集体通信,解决事件通信过程中的数据冗余问题,提升通信效率。实验结果表明,该方法使带有STDP突触20%规模的皮质层微电路模型的模拟时间,比标准循环分配算法缩短约64.5%,比普通超图分配算法缩短约57.4%,同时事件通信数据量减少了90%以上。 展开更多

关键词 脉冲神经网络 负载均衡 联合权重 超图划分 并行计算

在线阅读 下载PDF 职称材料

基于脉冲频率与输入电流关系的SNN训练算法

13

作者 兰浩鑫 陈云华 《计算机工程与应用》 CSCD 北大核心 2022年第10期87-92,共6页

脉冲神经网络(spiking neural network,SNN)以异步事件驱动,支持大规模并行计算,在改善同步模拟神经网络的计算效率方面具有巨大潜力。然而,目前SNN仍然面临无法直接训练的难题,为此,受到神经科学领域关于LIF(leaky integrate-and-fire... 脉冲神经网络(spiking neural network,SNN)以异步事件驱动,支持大规模并行计算,在改善同步模拟神经网络的计算效率方面具有巨大潜力。然而,目前SNN仍然面临无法直接训练的难题,为此,受到神经科学领域关于LIF(leaky integrate-and-fire)神经元响应机制研究启发,提出了一种新的基于频率编码的SNN训练算法。通过仿真实验对LIF神经元发放脉冲频率进行建模,得到LIF神经元脉冲频率与输入电流之间显示表达关系,并将其导数作为梯度,解决了SNN训练过程中离散脉冲事件产生的不可微性问题,使得可利用BP算法对SNN进行训练。现有基于频率编码的方法采用时间信用分配机制进行参数更新,通常具有较差的学习效率,为此,采用LIF神经元响应机制更新网络参数,提高了学习效率。在MNIST和CIFAR10数据集上的实验结果验证了所提方法的有效性,分类精度分别达到了99.53%和89.46%,在CIFAR10数据上的识别精度相较于先前研究者提高了4.22个百分点,在学习效率方面相较于先前采用时间信用分配方法提高了一倍左右。 展开更多

关键词 脉冲神经网络(snn) 反向传播算法 LIF神经元 脉冲频率 神经形态类脑计算

在线阅读 下载PDF 职称材料

基于CS-SNN的公交到站时间预测模型 被引量：1

14

作者 邝先验 罗会超 +1 位作者 钟蕊 欧阳鹏 《传感器与微系统》 CSCD 北大核心 2021年第3期30-33,共4页

针对公交到站时间预测不准以及工作日和周末运行特性差异的问题,提出了一种基于布谷鸟搜索算法的Spiking神经网络(CS-SNN)预测模型。通过分析和验证Spiking神经网络的性能特征,再采用寻优性能更强的CS算法优化Spiking神经网络的初始参数... 针对公交到站时间预测不准以及工作日和周末运行特性差异的问题,提出了一种基于布谷鸟搜索算法的Spiking神经网络(CS-SNN)预测模型。通过分析和验证Spiking神经网络的性能特征,再采用寻优性能更强的CS算法优化Spiking神经网络的初始参数,最后利用行车历史数据对神经网络进行训练和建模来实现到站时间的准确预测,将该优化算法与未优化的SNN算法和Elman神经网络算法用MATLAB分别仿真测试。对比结果显示:无论工作日还是周末,CS-SNN预测模型对公交行程时间的预测均具有更高的准确性且结果更加稳定。 展开更多

关键词 智能交通 公交到站时间预测 布谷鸟搜索算法 spiking神经网络 公共交通

在线阅读 下载PDF 职称材料

基于脉冲序列标识的深度脉冲神经网络时空反向传播算法 被引量：2

15

作者 王子华 叶莹 +3 位作者 刘洪运 许燕 樊瑜波 王卫东 《电子与信息学报》 EI CAS CSCD 北大核心 2024年第6期2596-2604,共9页

尖峰放电的脉冲神经网络(SNN)具有接近大脑皮层的信号处理模式,被认为是实现大脑启发计算的重要途径。但是,目前对于深度脉冲神经网络的学习仍缺乏有效的监督学习算法。受尖峰放电速率标识的时空反向传播算法的启发,该文提出一种面向深... 尖峰放电的脉冲神经网络(SNN)具有接近大脑皮层的信号处理模式,被认为是实现大脑启发计算的重要途径。但是,目前对于深度脉冲神经网络的学习仍缺乏有效的监督学习算法。受尖峰放电速率标识的时空反向传播算法的启发,该文提出一种面向深度脉冲神经网络训练的基于时间脉冲序列标识的监督学习算法,通过定义突触后电位和膜电位反传迭代因子分别分析脉冲神经元的空间和时间依赖关系,使用替代梯度的方法解决反传过程中不连续可微的问题。不同于现有基于尖峰放电速率标识的学习算法,该算法能够充分反映脉冲神经网络输出的时间脉冲序列的动态特性。因此,所提算法非常适合应用于需要较长时间序列标识的计算任务,例如行为的时间脉冲序列控制。该文在静态图像数据集CIFAR10和神经形态数据集NMNIST上验证了所提算法的有效性,在所有这些数据集上都显示出良好的性能,这有助于进一步研究基于时间脉冲序列应用的大脑启发计算。 展开更多

关键词 脉冲神经网络 监督学习 误差反向传播 时间脉冲序列标识 替代梯度

在线阅读 下载PDF 职称材料

机器人类脑智能研究综述 被引量：4

16

作者 王瑞东 王睿 +1 位作者 张天栋 王硕 《自动化学报》 EI CAS CSCD 北大核心 2024年第8期1485-1501,共17页

传统机器人经过长时间的研究和发展,已经在生产和生活的多个领域得到了广泛的应用,但在复杂多变的环境中依然缺乏与真实生物类似的灵活性、稳定性和适应能力.类脑智能作为一种新型的机器智能,使用计算建模的方法模拟生物神经系统的各类... 传统机器人经过长时间的研究和发展,已经在生产和生活的多个领域得到了广泛的应用,但在复杂多变的环境中依然缺乏与真实生物类似的灵活性、稳定性和适应能力.类脑智能作为一种新型的机器智能,使用计算建模的方法模拟生物神经系统的各类特性,进而实现对各类信息的推理和决策,近年来受到了学术界的广泛关注.鉴于此,综述了国内外面向机器人系统的类脑智能研究现状,并对类脑智能方法在机器人感知、决策和控制三个研究方向的成果进行了整理、归纳和分析,最后从软硬件层面分别指出了机器人类脑智能目前存在的主要问题和未来的发展方向. 展开更多

关键词 机器人 类脑机器人 类脑智能 脉冲神经网络

在线阅读 下载PDF 职称材料

自校准首脉冲时间编码神经元模型 被引量：1

17

作者 冯忍 陈云华 +1 位作者 熊志民 陈平华 《计算机科学》 CSCD 北大核心 2024年第3期244-250,共7页

由于脉冲神经元具有复杂的时空动力过程且脉冲信息不可导,脉冲神经网络(SNN)的训练一直是一个难题。基于人工神经网络(ANN)转SNN间接训练深度SNN的方法,避免了直接训练深度SNN的难题,但该方法所获得的SNN的性能在很大程度上会受到脉冲... 由于脉冲神经元具有复杂的时空动力过程且脉冲信息不可导,脉冲神经网络(SNN)的训练一直是一个难题。基于人工神经网络(ANN)转SNN间接训练深度SNN的方法,避免了直接训练深度SNN的难题,但该方法所获得的SNN的性能在很大程度上会受到脉冲信息编码机制的影响。在众多编码机制中,首脉冲时间编码(TTFS)具有良好的生物学基础和更高的能效,但现有TTFS编码采用单脉冲形式,信息表征能力较弱,编码所需时间窗较大。为此,在TTFS的单脉冲编码基础上,增加一个校准脉冲,形成一种自校准首脉冲时间(SC-TTFS)编码机制,并构建相应的SC-TTFS神经元模型。在SC-TTFS中,首脉冲为必定发放的脉冲,而校准脉冲根据首脉冲发放后剩余的膜电位来确定是否发放,用于对编码脉冲所引起的转换量化误差和截断误差进行补偿,同时缩小编码所需的时间窗。通过对多种编码对应的转换误差进行对比分析,以及在多种网络结构上进行ANN-SNN转换实验,验证了所提方法的优越性。采用CIFAR10和CIFAR100数据集,基于VGG和ResNet两种网络结构进行了实验验证。结果表明,所提方法在两类网络结构和两种数据集上均实现了精度无损的ANN-SNN转换,且相较于最先进的同类方法,所提方法所构建的SNN具有最短的网络推理延迟。另外,在VGG结构上,所提方法相比TTFS编码能源效率提升了约80%。 展开更多

关键词 脉冲神经网络 脉冲编码机制 ANN-snn转化

在线阅读 下载PDF 职称材料

跨脉冲传播的深度脉冲神经网络训练方法

18

作者 曾建新 陈云华 +1 位作者 李炜奇 陈平华 《计算机应用研究》 CSCD 北大核心 2024年第7期2134-2140,共7页

基于反向传播的脉冲神经网络(SNNs)的训练方法仍面临着诸多问题与挑战,包括脉冲发放过程不可微分、脉冲神经元具有复杂的时空动力过程等。此外,SNNs反向传播训练方法往往没有考虑误差信号在相邻脉冲间的关系,大大降低了网络模型的准确... 基于反向传播的脉冲神经网络(SNNs)的训练方法仍面临着诸多问题与挑战,包括脉冲发放过程不可微分、脉冲神经元具有复杂的时空动力过程等。此外,SNNs反向传播训练方法往往没有考虑误差信号在相邻脉冲间的关系,大大降低了网络模型的准确性。为此,提出一种跨脉冲误差传播的深度脉冲神经网络训练方法(cross-spike error backpropagation,CSBP),将神经元的误差反向传播分成脉冲发放时间随突触后膜电位变化关系和相邻脉冲发放时刻点间的依赖关系两种依赖关系。其中,通过前者解决了脉冲不可微分的问题,通过后者明确了脉冲间的依赖关系,使得误差信号能跨脉冲传播,提升了生物合理性。此外,并对早期脉冲残差网络架构存在的模型表示能力不足问题进行研究,通过修改脉冲残余块的结构顺序,进一步提高了网络性能。实验结果表明,所提方法比基于脉冲时间的最优训练算法有着明显的提升,相同架构下,在CIFAR10数据集上提升2.98%,在DVS-CIFAR10数据集上提升2.26%。 展开更多

关键词 脉冲神经网络 脉冲时间依赖 误差反向传播 脉冲神经网络训练算法

在线阅读 下载PDF 职称材料

基于自适应时间步脉冲神经网络的高效图像分类

19

作者 李千鹏 贾顺程 +1 位作者 张铁林 陈亮 《自动化学报》 EI CAS CSCD 北大核心 2024年第9期1724-1735,共12页

脉冲神经网络(Spiking neural network,SNN)由于具有相对人工神经网络(Artifcial neural network,ANN)更低的计算能耗而受到广泛关注.然而,现有SNN大多基于同步计算模式且往往采用多时间步的方式来模拟动态的信息整合过程,因此带来了推... 脉冲神经网络(Spiking neural network,SNN)由于具有相对人工神经网络(Artifcial neural network,ANN)更低的计算能耗而受到广泛关注.然而,现有SNN大多基于同步计算模式且往往采用多时间步的方式来模拟动态的信息整合过程,因此带来了推理延迟增大和计算能耗增高等问题,使其在边缘智能设备上的高效运行大打折扣.针对这个问题,本文提出一种自适应时间步脉冲神经网络(Adaptive timestep improved spiking neural network,ATSNN)算法.该算法可以根据不同样本特征自适应选择合适的推理时间步,并通过设计一个时间依赖的新型损失函数来约束不同计算时间步的重要性.与此同时,针对上述ATSNN特点设计一款低能耗脉冲神经网络加速器,支持ATSNN算法在VGG和ResNet等成熟框架上的应用部署.在CIFAR10、CIFAR100、CIFAR10-DVS等标准数据集上软硬件实验结果显示,与当前固定时间步的SNN算法相比,ATSNN算法的精度基本不下降,并且推理延迟减少36.7%~58.7%,计算复杂度减少33.0%~57.0%.在硬件模拟器上的运行结果显示,ATSNN的计算能耗仅为GPU RTX 3090Ti的4.43%~7.88%.显示出脑启发神经形态软硬件的巨大优势. 展开更多

关键词 脉冲神经网络 低功耗推理 高效训练 低延迟

在线阅读 下载PDF 职称材料

基于脉冲神经网络的轻量化SAR图像舰船识别算法

20

作者 谢洪途 陈佳兴 +1 位作者 张琳 朱楠楠 《东北大学学报（自然科学版）》 EI CAS CSCD 北大核心 2024年第4期474-482,共9页

针对传统方法进行合成孔径雷达(SAR)图像目标识别存在参数多、能耗高等问题,提出了一种基于脉冲神经网络(SNN)的轻量化SAR图像舰船识别算法.首先,利用视觉注意力机制提取SAR图像视觉显著图,采用泊松编码器进行脉冲序列编码,能抑制背景... 针对传统方法进行合成孔径雷达(SAR)图像目标识别存在参数多、能耗高等问题,提出了一种基于脉冲神经网络(SNN)的轻量化SAR图像舰船识别算法.首先,利用视觉注意力机制提取SAR图像视觉显著图,采用泊松编码器进行脉冲序列编码,能抑制背景噪声干扰.然后,结合泄漏整合发射(LIF)脉冲神经元和卷积神经网络,构建融合时序信息的SNN模型,能实现SAR图像舰船识别.最后,采用反正切函数作为反向传播时脉冲发射函数的梯度替代函数对SNN模型进行优化,能解决模型难以训练的问题.实验结果表明所提算法具有高精度、少参数、高效率和低能耗等优势,能实现SAR图像高效准确舰船识别. 展开更多

关键词 合成孔径雷达图像 舰船识别 脉冲神经网络 轻量化

在线阅读 下载PDF 职称材料