神经形态计算网络的互连结构和信息组织研究

Neuromorphic computing can potentially provide heuristic and perspective solutions and methodologies for Artificial Intelligence. This project proposal describes our efforts on designing an efficient neuromorphic computing interconnect structure and information management with high-flexibility and scalability. We propose a dynamic routing planning strategy and adaptive resource allocation scheme to explore efficient information organization, index and achieve robust communication and strong connectivity. Therefore, to achieve effective processing capability on unstructured and uncompleted information. We are trying to establish effect coherence among structural connectivity, functional connectivity and effective connectivity. Furthermore, we use “trace” to record information transmission inside the network spatially and temporally, in order to achieve cross-layer and cross-scale assemble coding and associative memory, the basic cognitive functions of biology neural network. In this way, we investigate invariance property of inner information processing inside neural network, and design neuromorphic computing system architecture. Finally, we are planning to implement a prototype of our design on FPGA, to contribute theoretical support and reference design for large-scale neuromorphic computing system in the future.

神经形态计算网络的研究有可能为人工智能计算提供启发性和前瞻性的解决思路和方法指导。本项目通过研究结构化、可扩展的大规模神经网络互连拓扑结构及信息管理组织方案。采用动态路径规划策略和灵活的资源分配方案，探索灵活的信息组织和检索，实现高健壮性的通信互连，提高神经网络计算系统对于非结构化、非完整信息的处理能力。建立计算网络结构连接、功能连接和有效连接的高效协同。并利用网络内部信息传输的时/空“轨迹记录”的信息组织方式，尝试将分布式的信息组织成具有连续性的结构，实现跨层次和尺度的信息融合，实现群体编码以及联想记忆等生物神经网络的基本功能，探索从神经网络内部信息表达模态不变性的角度分析和设计神经拟态计算架构，并完成相应的可配置FPGA方案设计。为未来设计大尺度的神经形态计算架构提供理论支持和设计参考。

神经形态计算网络的研究有可能为人工智能计算提供启发性和前瞻性的解决思路和方法指导。针对脉冲神经网络结构、信息编码和组织以及非结构化和非完整信息的处理等难点问题，本课题主要围绕以下3个方面开展研究：1）在脉冲神经网络结构方面：提出了一种基于时间摄动的脉冲局部敏感哈希方法（TS-SLSH），首次在网络中引入了更加符合生物学观测的突触时间摄动单元，并通过研究发现时间摄动既可以反映膜电位的变化，又可以反映脉冲发放时刻的变化，实验结果显示，在多种尖峰神经元模型上都显示了其对于性能改善的积极作用，可以提升网络的精度和鲁棒性。2）在信息编码和组织方面：提出了针对图像的非线性相位编码与线性相位编码，通过最大化不同图像相同位置像素点间的差异值来获得更好的识别效果。在特征提取方面，采用多尺度特征融合操作，实现对图像特征更精准的提取。在脉冲序列相似性度量方面，提出时间分区脉冲计数的相似性度量方法，能够更有效地度量脉冲序列的相似性，提高运行效率，时间消耗减少了30%-50%。最终，该算法提供了一种发现相似输入并获得更好结果的可行方法，实验表明与哈希长度为5的FLY算法相比，其精度在多个数据集上提升2%-25%。3）在针对非结构化和非完整信息的处理能力方面，提出了多神经元决策脉冲神经网络（MD-SNN）来解决图像分类问题。主要创新点为采用随机选择机制形成多个脉冲序列，并且采用多组神经元共同做决策。进而获得更好的分类结果，与卷积神经网络相比，训练样本较少时更具优势。.相关研究工作在国际高水平期刊IEEE TNNLs、JESTCS、TCDS等发表论文6篇，在国际高水平会议上发表论文12篇。课题负责人在课题执行期间，2021年入选国家级人才、2020年入选国家高层次青年人才计划、培养博士生1名（获得博新计划支持），硕士生2名。2018-2020连续3年组织中国认知计算与混合智能学术大会，主持《受神经科学启发的计算架构与器件》论坛，邀请国内外数十名知名学者进行学术报告和交流。课题成果为未来设计大尺度的神经形态计算架构提供基础理论支持和设计参考。