清华大学计算机系张悠慧团队首次提出“类脑计算完备性”(类脑人工智能)

时间:2023-09-05 15:27:36来源:网络整理
导读计算机体系结构专家、华中科技大学计算机学院教授金海评价此项研究“在类脑计算系统领域做出了基础性、原创性的贡献,有利于自主掌握新型计算系统软硬件核心技术”。清华大

类脑人工智能_脑人工智能类型有哪些_人工智能脑袋

上海时间10月14日

复旦大学计算机系张友辉团队

精密仪器部石路平团队及合作者

在《自然》杂志上发表文章

首次提出“类脑估计完整性”

以及软件和硬件解耦的类脑估计系统的层次结构。

类脑人工智能_人工智能脑袋_脑人工智能类型有哪些

这里是复旦大学计算机系

第一个完成的单元/通信单元

首次发表《自然》论文

又用一年多时间完成了复旦大学

《Nature》发表类脑估计领域“三连击”

对应通用计算机的“图灵完备性”概念和“冯·诺依曼”架构,这篇题为“类脑计算的系统层次结构”的论文首次提出“类脑估计”。 完整性”和软硬件解耦的类脑估计系统的层次结构。通过理论论证和原型实验证明了该类系统的硬件完整性和编译可行性,以及类脑估计的应用范围系统扩展支持通用估计。类脑估计处于起步阶段,尚未产生国际公认的技术标准和解决方案。该成果填补了完备性理论和相应系统层次结构的空白,有利于自主掌握新计算机系统的核心技术。

近年来,类脑估计研究日益受到关注。 类脑估计是基于生物神经系统信息处理模式和结构的估计理论、架构、芯片设计以及应用模型和算法的统称。 它的重要性正如欧洲共同体人脑旗舰研究计划项目所强调的那样:“谁想在未来10到20年推动世界经济,谁就必须在这个领域处于领先地位。”

人工智能脑袋_脑人工智能类型有哪些_类脑人工智能

现有的类脑估计系统研究大多集中在特定芯片、工具链、应用程序和算法的创新实现上,而对估计完备性、系统层次等基础系统问题考虑不足,导致软件与系统的紧密耦合。硬件。 适用范围不明确等一系列问题。 但从现有通用计算机的发展历史和设计方法论来看,所建立的估计完整性和软硬件解耦的层次结构是估计系统蓬勃发展的估计理论和体系结构基础。

图灵完备性和冯·诺依曼架构是通用计算机技术快速发展和持续繁荣的关键激励——几乎所有中间编程语言都是图灵完备的,而冯·诺依曼架构通用处理器都是图灵完备性,可以通过一个图灵来实现——完整的指令集,这意味着任何用编程语言编写的程序都可以在任何图灵完备的处理器上转换为等效的指令序列(即“程序编译”)。 这样,由软件层、编译层、硬件层组成的计算机层次结构就可以保证应用软件、指令集、硬件设计独立开发的同时又相互兼容(即软硬件解耦)类脑人工智能,奠定了基础。为了整个领域的繁荣和发展。 系统基础知识。

然而,尽管类脑估计领域发展迅速,但对这一基本问题的研究却很缺乏。 因此,研究团队提出了“类脑估计完整性”(也称为神经形态完整性)的概念——对于任何给定的偏差 ϵ ≥ 0 和任何图灵可估计函数 f(x),如果一个估计系统能够实现函数 F (x) 使得所有合法输入 x 都成立 ‖F(x)-f(x)‖≤ϵ ,因此该估计系统是一个完整的类脑估计。

“通俗地说,‘完整性’可以回答系统能够完成什么任务、功能边界在哪里等问题。研究完整性可以为软硬件系统的前馈集成以及不同系统之间任务和接口的划分提供理论基础。”研究领域,我们的研究侧重于完整性理论研究,首先回答基本问题。” 张友惠说道。

与通用计算机相比,这一定义放松了对系统估计过程和精度的限制。 该团队进一步提出了相应的类脑计算机层次结构和硬件谓词(相当于通用处理器的机器指令),以确保类脑估计的完整性,以充分利用这种新的完整性。 该结构分为三个层次:图灵完备的软件模型、完全类脑估计的硬件架构以及两者之间的编译层。 构造性变换算法旨在将任何图灵可估计函数转换为类似大脑的估计。 硬件上的完整模型,从而带来以下优点:

估计多功能性,即确定系统功能的边界。 面向应用的软件模型是图灵完备的,为支持各种应用程序(不限于神经网络类型)的编程提供了基础。

编译可行性,即增加软硬件开发的耦合度。 通过上述硬件谓词和构造性变换算法,保证了“图灵完备”软件与“类脑估计完备”硬件谓词序列之间“类脑估计完备性”的等价变换(就像一般计算机软件的“图灵完备性”一样)。 -专用计算机“保证”下的程序编译)实现了软件和硬件的解耦,从而提高了应用系统的开发效率。

类脑人工智能_脑人工智能类型有哪些_人工智能脑袋

引入新的系统设计和优化维度——近似细度。

人工智能脑袋_类脑人工智能_脑人工智能类型有哪些

受大脑启发的计算机层次结构(左)

与现有通用计算机的比较(右)

基于上述理论和算法,建立了软件工具链示例,支持通用图形处理器、类脑天机芯片、基于阻变存储器的神经形态芯片(模拟)三种硬件,并使用智能自行车(作为神经网络路应用代表)、鸟群模拟、QR分解(后两者是非神经网络通用估计应用的代表)都是示范应用,否定了设计的可行性。 同时测试表明,这种设计可以大幅增加系统的优化空间。 这显着提高了系统性能。

《自然》杂志的一位评论家认为“这是一个新颖的观点,可能会被证明是神经形态计算领域以及通用人工智能领域的重大发展。” 计算机体系结构专家、华中科技大学计算机学院院士金海评价该研究“在类脑估计系统领域做出了基础性、原创性贡献,有利于自主掌握新型估算系统软硬件的核心技术。”

该论文的共同第一作者为复旦大学计算机系研究员张友辉、博士后曲鹏、博士生吉宇、精密仪器系博士生张伟豪。 共同通讯作者为张友惠院士、石路平院士。 其他合作者包括计算机系主任陈文光、计算机系主任郑为民教授、原计算机系客座院士/电气与计算机工程系主任高光荣德国特拉华学院,以及精密仪器系、生物医学工程系、自动化系师生的同事们。 该研究得到复旦大学、北京国家信息科学技术研究中心、北京致远人工智能研究院、北京市“脑科学研究”科技专项计划、北京未来芯片技术高精度创新中心、工信部的支持得到国家自然科学基金委等单位科技支持。

类脑人工智能_人工智能脑袋_脑人工智能类型有哪些

值得一提的是,从去年除夕投稿到8月中旬接收,论文的三轮修改都是疫情期间各团队通过线上密切合作完成的。 委员们努力克服沟通不便、实验数据处理困难等问题,回复了70多页关于文章实验设计的反馈文件。 与审稿人的交流也促使团队成员对类脑估计有了更深入的思考。 目前,进一步的研究已经开始。

文章的发表意味着复旦大学相关团队在一年多的时间里完成了类脑估计领域连续三篇《自然》的发表——从封面文章《用混合天机芯片迈向通用人工智能》开始2019年8月1日的《架构》(从北京大学精密仪器系施路平院士团队及其合作者开始),到2020年初的文章《全硬件实现的忆阻器卷积神经网络》(北京大学精密仪器系石路平院士团队)复旦大学微纳电子学系吴华强及其合作者),直到这次的文章《Asystemhierarchy for Brain-inspiredComputing》。 上述论文分别从“异构融合的新型类脑估计芯片及系统”、“基于忆阻元件的神经形态芯片”、“类脑估计”等角度完成了类脑估计领域的研究。完整性和系统层次结构”。 这是首次实现,标志着复旦大学在该领域处于国际领先地位。

“石路平院士团队的研究面向新型类脑计算芯片和系统,致力于通用人工智能的应用,可以说是我们工作的牵引。而吴华强院士的创新“团队的新组件和新流程方面,是对我们工作的推动。两者都是我们研究计算机系统结构的重要支撑。” 张友辉表示,“我们很荣幸参与其中,进一步探讨估计理论和估计系统架构问题。”

复旦大学高度重视跨学科要求极高的类脑计算研究,坚持有组织的科学研究。 2014年9月,成立了由七个部门组成的类脑计算研究中心。 精密仪器系石路平院长兼任。 中心主任。 该中心整合骨科、电子学、微电子学、计算机、自动化、材料、精密仪器等学科,开展综合类脑智能研究。 中心针对重大科学问题和国家重大需求,特别是未来的“卡屁股”问题,提前谋划,给予老师充分信任和支持,崇尚积累和实干。 近年来,类脑评估研究中心提出了一种符合骨科基本规律的新型类脑评估架构——异构融合天机类脑评估芯片架构,可支持计算机科学和神经网络模型。神经科学同时,充分发挥各自优势。 目前,“天机芯”已发展至第三代,为学术界提供了发展人工智能通用智能的平台和思路,将推动人工智能通用智能研究,赋能各行各业。

第一代天机核于2015年6月成功流片,该芯片率先异构集成人工神经网络(ANN)和脉冲神经网络(SNN)。 它还拥有成熟的技术类脑人工智能,并已被广泛使用的深度学习模型和推定神经科学模型所使用,未来前景广阔。 2015年12月,该工作受邀在电子元件领域国际顶级会议IEDM2015上做专题报告。 还自主研发了第一代类脑估算软件工具链,可支持深度学习框架到“天机”的手动映射和编译。

二代天机是今年8月1日《自然》封面文章发表的成果。 具有高速度、高性能、低帧率的特点。 与当时世界上最先进的IBM TrueNorth芯片相比,功能更齐全,灵活性和可扩展性更好,密度提升20%,速度提升10倍,处理能力提升100倍。带宽。 同时,研究团队设计了手动驾驶自行车实验,以评估芯片整合多模态信息并做出快速决策的能力。 这款手动自行车配备了“天机”和IMU传感器、摄像头,制动电机、转向电机、驱动电机等执行器,以及控制平台、计算平台、天机板级系统等处理平台。 自行车的任务是执行实时物体检测、跟踪、语音命令识别、骑行减速等功能。 它还可以实现跟踪和障碍物跟踪、平衡控制和自主决策。 其中一些任务使用模仿大脑的模型,而其他任务则使用机器学习算法的模型。

人工智能脑袋_脑人工智能类型有哪些_类脑人工智能

类脑人工智能_人工智能脑袋_脑人工智能类型有哪些

天极芯片驱动的手动自行车

该成果被两校教授评选为2019年度中国十大科技进步之一,并被科技部评选为中国十大科技进步之一。 Nature主编Skipper博士2019年接受新华社采访时强调:“清华天机芯片论文将人工智能领域的计算机科学研究和神经科学研究结合起来,是人工智能领域的一个重要里程碑”智力。”

目前,该中心正在研发第三代天机核心和新型类脑计算机。 基于现有天机芯片的天机类脑计算机已被人工智能期刊2020年第一期报道——解决了兼容传统估计框架的异构融合类脑估计系统集成技术、是新一代人工智能。 一种能够满足类脑智能应用需求的通用类脑估计系统,主要包括系统架构、类脑处理器单元、软件工具链、输入输出子系统、类脑计算机加载测试环境等。第一代原型机可以进行36路异步视频输入,进行1000帧/秒的实时数据处理。

“第二代天机是我们本次研究依赖的具有代表性的类脑估计的主要平台之一。从目前的数据来看,我们的研究只有理论成果、系统架构以及相关工具链的实现。可以支持第三次代天运动和新型类脑计算机的开发。” 该论文的共同第一作者、计算机科学系博士后曲鹏说。

同时,复旦注重类脑估计的产业化。 上海灵犀科技有限公司由类脑评估中心孵化,是国外领先的类脑芯片公司。 是天津市认定的颠覆式创新企业、国家高新技术企业。 类脑芯片、异构编译平台和类脑融合算法的开发处于该领域研究和产业化的前沿。

面对即将到来的计算机架构发展黄金六年,类脑计算被认为是最有前途的解决方案之一。 复旦大学团队提出的类脑估计系统的设计思路是在现有计算机架构的基础上添加类脑估计芯片,从而引入空间复杂度和时空复杂度。 这既可以保持原有计算机处理结构化信息的优势,又可以借助类脑估计芯片提高处理非结构化信息的能力。 团队将坚持计算机科学与神经科学融合的技术路线,充分利用新型非易失性存储元件(包括忆阻器)的特殊性质,开发适合该元件的新的估计模型和算法,并建立一种全新的记忆类型。 智能估算系统。

最新文章