与非网 10 月 15 日讯,日前,清华大学计算机系张悠慧团队和精仪系施路平团队与合作者在《自然》杂志发表题为《一种类脑计算系统层次结构》的论文,首次提出“类脑计算完备性”概念以及软硬件去耦合的类脑计算系统层次结构,填补了类脑计算系统领域完备性理论与相应的类脑计算系统层次结构方面的空白。该研究被认为会加速类脑计算,及通用人工智能等方向的研究。

 

目前,发展通用人工智能(AGI)通常有两种方法:神经科学导向和计算机科学导向。由于两种方法在公式和编码方式上存在根本差异,它们依赖于不同且不兼容的平台,阻碍了 AGI 的发展。

 

 

据了解,神经形态计算从生物大脑中获取灵感,为计算机技术和体系结构的下一波发展提供了方向。类脑计算与传统计算机架构不同,后者是围绕图灵完备和完善的冯诺依曼结构,前者目前还没有没有广义的系统层次结构,或对类脑性计算的完整性的理解。这会影响类脑计算软件和硬件之间的兼容性,从而阻碍了大类脑式计算的开发效率。

 

面对这一挑战,清华大学等机构的研究者们提出了「类脑计算完备」概念,它放宽了对硬件完整性的要求,并提出了相应的系统层次结构,其中包括图灵完备的软件抽象模型和通用的抽象神经形态架构。

 

使用这种层次结构,我们可以将各种程序描述为统一的表示形式,并转换为任何神经形态完整硬件上的等效可执行文件。这意味着,这一体系可以确保编程语言的可移植性、硬件完整性和编译可行性。

 

为了支持在各种典型硬件平台上执行不同类型的程序,研究人员实现了一系列工具链软件,进而证明了该系统结构的优势。

 

全新的系统层次结构

在这项研究中,研究者提出了一种具有高度通用性和普适性的类脑计算系统层次结构,该结构包括三个层次:软件、硬件和编译。

 

与传统的计算系统层次结构不同,对于类脑计算系统层次结构而言,软件层指的是神经形态应用和开发框架(如 Nengo 和 PyTorch)。相应地,研究者提出将 POG 作为软件的中间表征, EPG 作为硬件的中间表征(CFG,控制流图),并引入编译工具将 POG 转换为 EPG。对于硬件层,研究者提出了抽象神经形态结构(ANA),包括调度单元、处理单元、内存和互连网络,作为神经形态硬件(TrueNorth、SpiNNaker、Tianjic 和 Loihi)抽象。

 

考虑到类脑计算的相似性,研究者进一步提出了「类脑计算完备性」的概念,引入了逼近等价(approximation equivalence)和近似等价(precise equivalence)。

 

类脑计算机系统与传统计算机系统的层次结构对比。

 

软件

图中的软件是指编程语言或框架,以及以它们为基础构建的算法或模型。在这一层面上,研究者提出了一个统一的、通用的软件抽象模型——POG(programming operator graph)——来适配多种类脑算法和模型设计。POG 由统一的描述方法和事件驱动的并行程序执行模型组成,该模型集成了存储和处理。它描述了什么是类脑程序并定义了如何执行该程序。由于 POG 是图灵完备的,它能够最大程度上支持多种应用、编程语言和框架。

 

硬件

硬件部分包括所有类脑芯片和架构模型。研究者设计了抽象神经形态结构作为硬件抽象。它有一个 EPG( execution primitive graph),用作和上一层之间的接口,来描述它可以执行的程序。EPG 有一个混合的「control-flow–dataflow」表示,用来最大化其对不同硬件的适应性,同时也符合一个流行的硬件趋势——混合架构。

 

编译

编译是将一个程序转化为硬件所支持的一种等价形式的中间层。为了提高可用性,研究者提出了一组基本的硬件执行原语,这些原语在主流的类脑芯片中得到了广泛的支持,同时证明了配备了这套原语的硬件是神经形态完备的。此外,研究者还以一个工具链软件作为编译层的实例,论证了该层次结构的可行性、合理性和优越性。

 

研究者提到:「这一层次结构避免了硬件和软件之间的紧密耦合,确保任何类脑程序都可以用图灵完备 POG 来表示,然后在任何神经形态完备的硬件上编译成等效的可执行 EPG。我们确保了编程的可移植性、硬件的完整性和编译的可行性,并通过实验验证了神经形态完备性引入的系统设计维度优化效果。这一层次结构也促进了软硬件的协同设计。」

 

与当今常规计算机的「图灵完备性」概念与「冯诺依曼」体系结构相对应,全新的类脑计算完备性及软硬件去耦合的类脑计算系统层次结构证明了自身的可行性,同时又扩展了类脑计算系统应用范围,使之能支持通用计算。

 

该论文的发表,意味着清华大学相关团队在一年多的时间内完成了类脑计算领域《自然》正刊三连发。三篇论文分别从“异构融合的新型类脑计算芯片与系统”、“基于忆阻器件的神经形态芯片”、“类脑计算完备性与系统层次结构”的角度完成了类脑计算领域的首次实现,标志着清华大学在此领域的国际领先地位。

 

清华大学对学科交叉要求极高的类脑计算研究高度重视,于 2014 年 9 月创立由 7 家院系联合而成的类脑计算研究中心,融合脑科学、电子、微电子、计算机、自动化、材料以及精密仪器等多个学科,进行全方位类脑智能研究。中心瞄准重大科学问题和国家重大需求,特别是未来卡脖子问题提前布局。近年来,中心提出了符合脑科学基本规律的新型类脑计算架构——异构融合的天机类脑计算芯片架构,可同时支持计算机科学和神经科学的神经网络模型,发挥它们各自的优势。目前“天机芯”已发展到第三代,为学界提供了一个发展人工通用智能的平台和思路,将促进人工通用智能研究、赋能各行各业。