用电阻切换存储器(RRAM)进行大脑启发计算:设备,突触和神经网络外文翻译资料

 2023-08-29 09:43:27

英语原文共 10 页,剩余内容已隐藏,支付完成后下载完整资料


用电阻切换存储器(RRAM)进行大脑启发计算:设备,突触和神经网络

摘要

人脑可以执行高级计算任务,如学习、识别和认知,具有极低的功耗和较低的神经元放电频率。这归因于高度并行和事件驱动的计算方案,其中能量仅在处理信息需要时和需要时使用。为了模拟人脑,最根本的挑战是复制突触的时间依赖性可塑性,以及实现生物神经元网络的高连通性,其中突触与神经元的比率约为104。这种高计算能力和密度可扩展性的结合可以通过纳米器件技术获得,特别是通过电阻开关存储器(RRAM)器件。在这项工作中,RRAM设备技术的记忆和突触应用的最新进展进行了综述。首先,讨论了采用SiOX介电层提高窗口和可靠性的RRAM器件。然后,讨论了RRAM在神经形态计算中的应用,提出了一种具有峰值时间依赖可塑性(stdp)的混合突触。最后给出了具有学习和识别输入模式的大脑启发硬件。

1.介绍

由于静态和动态泄漏过程导致的功耗过大,摩尔晶体管摩尔定律正接近极限。原则上,功率消耗问题可通过具有较低电压供应和较陡阈下斜率的新型器件来减弱,这些器件包括菲涅特、三角场效应晶体管、隧道场效应晶体管、负电容场效应晶体管和替代的无电荷开关概念。另一方面,为了解决冯诺依曼瓶颈,提出了新的计算架构,在传统计算机中,数据处理和存储单元之间的物理分离会增加延迟和功耗的限制,特别是对于以数据为中心的计算。冯诺依曼瓶颈可以通过创建用于计算和内存元素共同集成的3D结构来解决,也可以通过引入内存计算的全新架构概念来解决,例如内存逻辑和神经形态计算。这些研究工作通常需要新型的开关,如电阻开关存储器(RRAM)或相变存储器(PCM),它们可以同时作为存储器和计算元件。例如,在内存计算电路中,利用PCM在其晶体碎片中添加多个应用脉冲的能力,从而充当逻辑门或代数计数器。同样,RRAM逻辑门依赖于一个或多个输出RRAM中的条件切换,这取决于应用的电压振幅和输入RRAM设备的状态。另一方面,RRAM和PCM可以作为神经网络中的突触元件,因为它们能够调节设备电阻。最近,基于rram和pcm设备的神经元电路也被报道允许集成电路和最终电路的区域缩小。然而,将RRAM器件用作突触或神经元元件需要对某些特性进行优化,如多级操作、高开/关比、设置和重置时电阻的线性变化以及良好的可靠性。此外,大脑激发的电路需要突触可塑性根据尖峰时间,这也对设备和电路的观点提出了关键挑战。

本文综述了基于RRAM的脑刺激神经形态计算电路的研究进展。首先,讨论了为满足神经形态电路的新需求而设计的RRAM材料。然后,将回顾与人脑类似的具有峰值时间依赖可塑性(stdp)的突触电路的发展。最后,我们将回顾和讨论具有可证明学习、识别、信号重建和纠错的塑料突触的SPIKING神经网络。

2. 大脑激发的协同工作的RRAM工程

在突触和神经元元件的应用中,RRAM从区域密度的角度提供了巨大的优势,因为在横杆阵列中单个存储设备的尺寸小且可扩展。同时,对于神经形态电路中的RRAM实现,还存在着显著的性能和可靠性要求。RRAM最受研究的应用之一是深度学习网络中的突触元件,它由前馈多层感知器(MLP)网络组成,学习过程通过反向传播进行。图1显示了具有4个神经元层的MLP的示例,包括一个输入层、一个输出层和2个hid-den层,其中突触连接由RRAM设备构成。在MLP中,学习依赖于监督反向传播算法,其中错误信号ε,即教师信号和实际输出之间的差异,线性控制网络中每个突触权重的更新。

2.1重量更新的线性和对称性

快速而有效的学习要求每个突触被脉冲增强或抑制,与初始电阻状态无关。这需要(i)RRAM特性的高线性度,其中固定的应用脉冲通过加法或乘法项产生已知的增强/抑制;(ii)更新的高度对称性,其中在正偏差和负偏差下分别获得增强和抑制的相似更新特性。由于不同的设置和重置转换,使用传统的金属氧化物RRAM设备通常难以实现对称特性。图2A显示了带有Tin/HfO2/Tin堆栈的RRAM装置的示意图,其中在底部电极上形成了一个氧去离子层,以使缺陷(氧空位和金属杂质)在形成和设置转变期间能够注入和迁移。图2b显示了装置的相应电流-电压(I V)特性,显示了突然的设置转换和逐步的重置转换。虽然重置转换原则上可用于仔细调整突触重量,但突变设置转换不允许对电阻进行电压控制的调整。请注意,这与PCM突触的情况类似,由于成核和生长机制,设置(结晶)转变是缓慢的,而重置(非晶化)转变是突然的。强烈不对称的增强/抑制通常通过采用2-电阻(2R)突触来解决,其中2个装置起到兴奋和抑制突触的作用,以控制两个方向的体重更新。

虽然突触应用需要线性重量更新,但实际的RRAM设备通常显示非线性特征,如图3所示,比较基于(a)TaOx/TiO2双层叠层、(b)多晶Pr1-xCaxMnO3(PCMo)和(c)非晶态Si与Ag顶电极的三种RRAM设备。图中显示了RRAM装置的测量电导,它是等幅增强/抑制脉冲数的函数。图中所示的所有RRAM技术在增强和抑制特性上都显示出很大的非线性,非线性系数在1到6之间,因此在图像和语音应用学习后可能导致模式识别不准确。研究表明,采用线性递增幅度的电压脉冲可以提高最新重量的线性度,但会牺牲额外的电路复杂性和相应的速度损失。已经提出了替代的单管/2-电阻(1t2r)结构来改善线性,尽管这会导致突触阵列的面积占用稍大。

2.2电导状态的稳定性

从可靠性的角度来看,RRAM突触还必须显示出理想的特性,包括在高温下保持,良好的耐用性和抗噪性。后者已经在用于存储器应用的RRAM器件中进行了仔细研究,尤其是对于高电阻状态(HRS),在这种状态下,其中导电通道的随机网络受到与缺陷相关波动更大的影响。HRS的研究表明了这是一个复杂的噪声结构,包括随机电报噪声(RTN)和随机游走(RW),后者由电阻的突然变化和幅度和时间t的纯随机分布组成。图4a显示了这一点,其比较存储器阵列中3个单独单元的测量电阻的时间演变。图中显示,电阻可以随时间随机变化,从而导致细胞电阻的整体增加、降低或稳定。对rw偏差的仔细研究表明,rw具有时间依赖性活动,根据g(t)~t-1,给定时间步长Delta;t内rw偏差的概率g(t)随时间减小。随时间变化的弯曲是由于介质层中新生成缺陷的结构弛豫所产生的分布势垒引起的。另一方面,RTN通常归因于单个不稳定缺陷,影响存储设备中局部路径的电导。导电路径可能包括低电阻状态下的导电薄膜(LRS),或Poole-Frenkel在HRS中跳跃的渗透路径。RTN的局部性质如图4b所示,显示RTN的电阻振幅Delta;r除以平均电阻r,作为r的函数。数据从几种RRAM材料中收集而来。

图1。具有4层(输入、输出和2个隐藏层)的MLP示意图。每层的层数和神经元的数目只是为了表示。一层中的每个神经元接收上一层中所有神经元的输入,并向下一层中的所有神经元提供输出。根据反向传播方案,将实际输出yi与所需输出oi进行比较,以计算误差εi,该误差可用于更新每层中的突触权重。

图2.具有HfO2电介质层和TiN电极的RRAM器件的示意图(a)和I V曲线分别显示了在正电压和负电压下的置位和复位转变(b)。还显示了来自RRAM分析模型的仿真结果。 经过许可转载。

图3.各种RRAM材料的突触增强和抑制特性,即TaOx/ TiO2(a),PCMO(b)和具有Ag电极的非晶Si(C)。 这些特性显示了在增强(增加重量,增加脉冲数)或降低(重量减少,减少脉冲数)期间施加固定电压脉冲后测量的电导。 经过许可转载。

包括hfox、niox、基于铜的rram和铜纳米金属桥。尽管考虑了广泛的材料范围,但图4b中可以看到总体趋势,其中Delta;r/r随电阻线性增加,这可归因于缺陷导致的导电路径损耗。在HRS中,路径大小与缺陷本身相当,因此Delta;r/r以1级的值饱和,图4a中的大RTN偏差也证明了这一点。

图4a中的数据表明,一旦在hrs中对RRAM设备进行编程,其电阻会显著增大,导致存储器阵列内的分布扩大。这对于突触应用来说是一个明显的问题,因为突触的重量应该随着时间而保持不变,例如,为了能够在图1的神经网络中对模式进行分类。为了随着时间稳定突触状态,应对RRAM材料进行设计,以尽量减少偏差,或增加开/关比,以提高多个电阻水平之间的读取边界,发挥模拟突触权重的作用。

图4。在RRAM阵列(A)中,三个单元的测量电阻是时间的函数,RTN的相对噪声振幅Delta;r/r是r(B)的函数。结果表明,缺陷引起的偏差在增加R时的影响越来越大。经许可,重新印刷。版权所有(2015、2014)IEEE。

图5。TI/SIOX/C RRAM堆栈(A)和各自I\V特性(B)的示意图。经许可转载。版权所有(2016)IEEE

2.3 具有改进开关比的RRAM设备

打开/关闭的存储器状态通常由导电桥存储器(CBRAM)表示,即一种特殊类型的RRAM,其中电阻的变化是由于阳离子从存储器堆栈中的一个或两个电极迁移而引起的,而不是电离氧或它们各自的空位,通常被认为是金属氧化物R的空位。RAM,为了提高低电压下的开关速度,在CBRAM中使用迁移率相对较高的金属,如银或铜作为电极材料,导致极低的工作电压(很少的毫伏)和电流,甚至低于1纳。然而,银基和铜基RRAM中的保留时间通常会因迁移率诱导的导电装置的自发断开而降低。

通过对活性电极中的金属(即在开关过程中用作阳离子迁移储层的金属)进行工程设计,可以在开关速度和挥发性行为之间获得更好的平衡。图5a所示为Ti/SiOx/C RRAM堆栈的最新结果。图5b显示了Ti/SiOx Rram形成后测量的I\V曲线,显示了设置和重置转换,hrs和lrs之间的电阻为4个数量级。开关过程归因于Ti离子迁移,如在CBRAM设备中,尽管Ti的低迁移率需要大于1V的电压来进行输入设置和复位转换。相对低迁移率金属(如Ti、Ta和Hf)的迁移被假定有助于金属氧化物RRAM中的开关过程,并且在纳米尺度上也有实验证明。由于移动性相对较低,基于Ti的导电薄膜在室温和蒸发温度下更稳定,因此在260°C下数据保持时间为1小时。SiOx的极大带隙和良好的绝缘性能使其在HRS中达到高电阻,从而产生较大的通断比。后者还通过采用高惰性C Bot-Tom电极加以改进,该电极可防止介电击穿,即使在minus;5 V范围内的相对大的负电压下,也需要达到高电阻的深小时。稳定的底部电极材料也有利于循环耐久性,Ti/SiOx-Rram约为108。应该注意的是,大的开关比,结合了良好的HRS和LRS的稳定性,允许更大的读取损伤,以抵消图4中与缺陷相关的偏差和噪声,从而有助于记忆和突触应用中的稳定电阻状态。

Ti/SiOx设备中的高电阻窗口还可以实现高性能突触元件所需的多级操作。图6a显示了Ti/SiOx-Rram器件在可变VStop下的实测I\V曲线,即沿重置扫描的最大负电压。随着vstop的增加,由于复位过程中的电压控制的电阻逐渐变化,可以获得更大的HRS电阻水平。请注意,电压Vset随Vstop而增加,这可以归因于沿断开连接的光纤的间隙长度在hrs中增加。图6b显示了作为vstop函数的LRS和HRS的测量电阻值,证明了在增加vstop时R在HRS中的良好控制。在设定转换期间,LRS由符合性电流IC控制,在图中,该电流IC为常数(IC=50mu;A)。通过改变IC也可以实现多级操作,从而产生具有不同电阻的LRS水平。这些结果支持了Ti/SiOx-RRAM器件的多级能力,有可能用于神经网络中模式学习和识别功能的突触应用。

图6。Ti/SiOx-Rram器件在可变vstop(a)下的实测I\V曲线,以及作为vstop函数的lrs和hrs的实测电阻值,证明在增加vstop时r在hrs中的控制良好。经许可转载。版权所有(2016)IEEE。

3.用于大脑启发计算的突触和网络电路

开发受大脑启发的计算系统不仅依赖于设备工程,还需要对显示神经形态功能某些方面(如可塑性和学习)的电路块进行详细设计。例如,单个突触必须充当两个神经元之间的电连接,并根据特定的大脑启发学习规则改变其重量。后者可能与后向传播或更一般的梯度下降算法有显著不同,后者为深入学习提供了计算基础。另一方面,大脑中的突触可塑性与时间有很大关系。例如,峰值时间依赖性可塑性(stdp)是一种在人脑中观察到的体重更新机制,在这种机制中,突触前峰值和突触后峰值之间的时间延迟决定体重变化的大小和信号,即突触后峰值之前的突触前峰值的增强和突触后峰值的抑制。突触前峰值前的OST突触峰值。其他更复杂的突触重量更新规则也依赖于一对或三对尖峰之间的时间计算。这些塑性规则通常要求对涉及CMOS器件或纳米器件的复杂电路进行完善,例如,PCM或RRAM。尽管已经报道了时间敏感突触的例子,基于PCM和RRAM的塑料突触通常包括一个或多个混合配置中的晶体管,以允许在电路块内可控地计算时间。

3.1混合STDP突触

图7a显示了一个混合RRAM-CMOS突触的例子,在2t1r配置中具有2个晶体管和一个RRAM元件。突触前神经元驱动一个晶体管的栅极,称为通信晶体管,以及RRAM装置的上电极。图7b显示了施加在通信门的电压VCG和施加在顶电极的电压VTE,这两个电压VCG都是由前突触神经元在尖峰事件中施加的。图中施加的电压尖峰诱导一个与RRAM条件成比例的突增突触电流,从而作为突触重量的存储元件。突触电流通过突触电路流入突触后神经元的输入端,如图7c的电路原理图所示,突触后神经元的输入节点是一个虚拟接地,从而确保2t1r的底部电极零电位。突

剩余内容已隐藏,支付完成后下载完整资料


资料编号:[609378],资料为PDF文档或Word文档,PDF文档可免费转换为Word

原文和译文剩余内容已隐藏,您需要先支付 30元 才能查看原文和译文全部内容!立即支付

以上是毕业论文外文翻译,课题毕业论文、任务书、文献综述、开题报告、程序设计、图纸设计等资料可联系客服协助查找。