黄如院士-杨玉超教授团队在深度储备池计算硬件研究中取得重要进展

xiangtian

储备池计算（Reservoir Computing）是一种低训练代价、低硬件开销的循环神经网络（RNN），在时序信息处理方面具有广泛的应用，例如波形分类、语音识别、时间序列预测等。储备池计算系统由神经元循环连接的储备池和输出层两部分组成，其中仅有输出层需要训练，从而显著降低了训练代价，而系统中的储备池可以由具有短时程特性的非线性器件来实现。当前国际上针对储备池计算系统的研究主要集中在探索使用不同类型的非线性器件（如忆阻器、自旋扭矩振荡器、纳米线网络、半导体光学放大器等）来构建单层储备池，但储备池状态数、记忆容量、复杂动力学特性等的局限从根本上制约了系统本身信息处理能力的提升。
        针对这一关键问题，北京大学集成电路学院黄如院士-杨玉超教授课题组首次采用可级联短时程非线性单元构建了深度储备池（deep reservoir）计算硬件，通过储备池层数的增加实现了层次化的信息处理能力、更丰富的储备池状态数、更大的记忆容量以及更复杂的动力学特性。该工作在构建深度储备池计算硬件系统、实现层次化的时序信息处理方面迈出了重要一步。

基于深度储备池计算系统的时序信息处理

        在技术路线上，北京大学集成电路学院研究团队研制了可级联的单层储备池硬件，通过将动态忆阻晶体管与平面器件进行串联分压，实现了电压输入、电压输出的短时程非线性单元。由于输入和输出为相同的物理量，解决了通常情况下电压输入、电流输出器件难以直接级联的问题，为构建深度储备池计算硬件奠定了器件基础。基于该类短时程非线性单元，他们进一步制备了深度储备池硬件系统，并结合分时复用的虚拟节点方法，获得了丰富的储备池状态。实验研究结果表明，相比同等规模的单层储备池计算系统，该工作所构建的深度储备池计算硬件具有更大的记忆容量、更丰富的储备池状态数、层次化的信息处理能力，并在波形分类、电能消耗预测等任务中展示了优异的性能，证明了深度储备池计算系统在时序信息处理任务中的潜力。
       相关成果以“Multilayer Reservoir Computing Based on Ferroelectric α-In2Se3 for Hierarchical Information Processing”为题，发表在《先进材料》（Advanced Materials）上。北京大学集成电路学院2018级博士生刘柯钦为第一作者，杨玉超、黄如为通讯作者。
       以上研究工作得到国家自然科学基金委后摩尔重大研究计划、国家杰出青年科学基金、国家重点研发计划、111计划、北大-百度基金等项目支持。


       文章来源：北京大学
       黄如，1991年和1994年毕业于东南大学，获本科和硕士学位，1997年毕业于北京大学，获博士学位。现为北京大学信息科学技术学院教授，2015年当选为中国科学院信息技术科学部院士。主要从事半导体新器件及其应用研究。在纳米尺度新器件、超低功耗新原理器件、器件可靠性、关键共性工艺等方面做出系统创造性贡献，在国际上产生重要影响，部分成果转移到著名IC公司。已合作出版著作4本，发表学术论文200余篇，迄今在微电子器件领域标志性国际会议IEDM、VLSI和标志性期刊EDL、TED上发表70余篇论文（自2007年以来至今连续10年在IEDM上发表论文25篇），研究成果连续被列入三个版本的国际半导体技术发展路线图ITRS。应邀做国际会议大会和特邀报告30余次；获230余项授权发明专利（其中授权美国专利38项）。曾获国家技术发明二等奖、国家科技进步二等奖、北京市科学技术一等奖（2次）、教育部自然科学一等奖、教育部科技进步一等奖、中国青年科技奖等多项国家和部委级奖励。担任国家自然基金委创新群体带头人，入选教育部长江特聘教授、国家杰青、国家百千万人才工程国家级人选等。担任《中国科学：信息科学》副主编、《IEEE Transactions on Electron Devices》 编委、《Nanotechnology》编委；“十二五”国家863专家组成员、信息产业科技发展“十一五”计划和2020年中长期规划编制专家组专家；被选为IEEE EDS Elected BOG 委员等；任国际会议主席15次、国际会议TPC委员数十次。
         杨玉超，1984年出生。2010年于清华大学材料系获工学博士学位，2010至2015年在美国密西根大学安娜堡分校从事忆阻器与类脑计算研究，先后任博士后、高级研究员。2015年8月加入北京大学信息科学技术学院，任助理教授、博士生导师。杨玉超的研究集中在类脑计算方向，主要在神经形态器件微观动力学解析及其行为调控、规模化集成、系统功能演示等方面取得了一些原创性进展。通过原位手段解析了不同体系神经形态器件中的微观离子输运和权值调控机制，设计实现了高连续性、高线性度电子突触，实现了基于金属纳米颗粒的自演化网络，并面向阵列集成研制了多种具有抗串扰的器件等。代表性工作发表在Nature Communications、Advanced Materials、Nano Letters等期刊上，被引用2400余次，4篇文章入选ESI高被引论文，研究成果受到美国自然科学基金网站、BBC新闻、ScienceDaily等网站报道。作为负责人承担北京市科委“脑科学研究”专项课题、国家自然基金面上项目、国家重点研发计划青年科学家项目等研究。