芯片大脑速度提高20倍,能耗降低200倍
编译凯霞
生物学上脉冲神经网络(SNN)的性能在很大程度上取决于模型参数和神经动力学。
近日,阿卜杜拉国王科技大学(KAUST)的研究人员提出了一种提高生物SNN性能的参数优化方案和一个用于数字实现的并行FPGA(现场可编程门阵列)在线学习神经形态平台。与其他神经网络平台相比,该团队的芯片大脑速度提高了20倍以上,能耗降低了200倍。
该研究以题为TowardtheOptimalDesignandFPGAImplementationofSpikingNeuralNetworks的论文发表在《IEEE神经网络与学习系统汇刊》(IEEETransactionsonNeuralNetworksandLearningSystems)杂志上。
人工智能技术发展迅速,在高级自动化、数据挖掘和解释、医疗保健和市场营销等领域出现了大量新的应用。尽管人工神经网络(ANN)在各种应用中都非常成功,但由于密集的矩阵乘法和内存访问,其神经网络固有地需要大量的计算能力。
研究小组的博士生郭文哲(WenzheGuo)说:ANN是一种抽象的数学模型,与真实的神经系统几乎没有相似之处,并且需要强大的计算能力。
低成本、低能、高速
SNN通过模拟和建模神经系统的结构,可以像人脑一样进行计算。这些神经系统以动作电位(或脉冲)的形式传输信息,这种事件驱动的行为在数学上被实现为带泄漏整合发放模型(leakyintegrateandfire(LIF)model),使得SNN很节能。另外,互连节点的结构提供了高度的并行化,进一步提高了处理能力和效率。SNN也可以作为神经形态芯片直接在计算硬件中实现。
图示:SNN的结构(来源:论文)
SNN与生物神经系统的功能相似,广泛应用于图像分类、目标检测、导航和运动控制等领域。
可以将模拟大脑生物学的神经网络加载到微芯片上,以实现更快、更有效的人工智能。
由于SNN模型非常复杂,我们面临的主要挑战是定制神经网络设置以获得最佳性能。Guo说,然后,我们在考虑成本、速度和能耗之间的平衡的基础上,设计了最佳的硬件架构。
我们使用了标准的低成本FPGA(现场可编程门阵列)芯片,并实现了依赖于脉冲时间的可塑性模型,这是在我们的大脑中发现的一种生物学习规则。Guo说。
KAUST的研究人员基于LIF模型构造SNN,研究了基于FPGA的SNN中用于模式分类的两种不同数值方法(欧拉方法(Euler)和三阶RungeKutta(RK3)方法)的性能,并全面比较了分类精度、资源利用、能耗和FPGA运行时间。
研究表明,基于用Euler方法和RK3方法求解LIF神经元方程,Euler方法占用的资源更少,耗能更少,延迟也更小。
此外,基于RK3方法的SNN在具有25个神经元内核的FPGA上实现。研究者通过比较使用Euler方法和RK3方法的实现之间的资源利用率、功率、运行时间和能耗。研究发现RK3方法使用更多的FF(触发器)和LUT(查找表)分别来存储中间变量、实现逻辑。因此,RK3方法会耗散更多的功率来运行网络。
RK3方法和Euler方法在FPGA上每个图像的实际训练运行时间分别为1。36ms和2。59ms。说明RK3方法在网络处理图像的速度要快得多。
总之,Euler方法适用于低成本的实现,为推理提供了一种节能的解决方案。RK3方法可以在实时应用中实现准确、快速、低能耗的信息处理,在实时在线训练中具有广阔的应用前景。
图示:用Euler法和RK3法求解LIF神经元方程的结果。(来源:论文)
Guo表示:我们提出的基于遗传算法的优化方法为优化超参数和提高网络性能提供了一种快速有效的方法。
与其他神经网络平台相比,该团队的芯片大脑速度提高了20倍以上,能耗降低了200倍。
Guo说:我们的最终目标是建立一个紧凑、快速、低能耗的类似于大脑的硬件计算系统。下一步是通过合作,改进设计,优化产品封装,使芯片小型化,并为各种工业应用提供定制化服务。
论文链接:https:ieeexplore。ieee。orgdocument9353400
参考内容:https:techxplore。comnews202104brainonachip。html
什么眼霜最好用(效果好的眼霜推荐)眼周是最脆弱也是最显老的部位,谁都不想一眼就让人看出年龄来,大多数女人会选择眼霜来保养眼部肌肤预防衰老,而一款好的眼霜是非常重要。那么哪个牌子的眼霜好用?感兴趣的朋友一起随小编……
除了心脏还能靠什么供血?海蜘蛛给你答案人体心脏心脏是人体重要的器官,是血液循环中的动力来源。其实,不仅是人类,大多数的动物都是如此。陆地上最高的动物长颈鹿,血液要经过三米的距离才能从心脏流到大脑,因此他们的心……
两个孩子的母亲,女神全智贤归来,颜值依旧在线,身材依旧火辣2001年一部韩国爱情喜剧片《我的野蛮女友》,让剧中的女主全智贤大红,她惊艳的容貌更是被誉为韩国的国民女神。不光外表精致,身材也是十分性感。如今已经是两个孩子母亲的她,身材依旧……
iQOONeo5和红米K40太相似?这些方面决定你的选择iQOONeo5终于发布,它和红米K40怎么选呢?一起来看看。红米K40的屏幕号称行业最贵直屏,采用E4发光材料和MEMC动态画面补偿,碾压iQOONeo5。红米K……
同样是飞机,为何我国枭龙战机出口远远比不上彩虹无人机?如果说到赚钱,那么出售军事装备是一件非常赚钱的事情,利润非常的丰厚。目前国际军火市场,中国只占据比较小的市场份额,大部分是被美、俄、以及欧洲一些国家所占据。而在中国占据的市场份……
量比什么意思(量比什么)量比什么意思(量比什么)什么是量比?量比:它是指股市开市后平均每分钟的成交量与过去5个交易日平均每分钟成交量之比。量比是衡量相对成交量的指标。在个股K线界面都会显示……
量比什么意思(量比意思)量比什么意思(量比意思)什么是量比?量比:它是指股市开市后平均每分钟的成交量与过去5个交易日平均每分钟成交量之比。量比是衡量相对成交量的指标。在个股K线界面都会显示……
应用实例几步教你实现无人机与遥控器的远程通信随着传感器、无线数传设备、应用方案的不断发展和成熟,更加智能稳定、精巧耐用的无人机逐步应用在各行各业,如空中航拍、农业植保、警务安防、物流运输、勘测巡航等等方面。而无人机……
女生动漫(那些甜到掉牙的少女动漫)女生动漫(那些甜到掉牙的少女动漫)每个少女的心里肯定都有这样的梦想,在某个地方,和一个喜欢的人不期而遇,于是在某个时间和这个人心意相通,相知相识相爱后,得到一场甜蜜的爱恋……
波动新论二今天在阐述我新的观点之前,我先给大家讲一些题外话。中国的科学探索者在探索科学的过程中,对物理学的方程非常着迷。一味的进行数学上的所谓推导与论证,而完全忽略了物理方程成立的条件,……
中国足球改革总体方案(足球改革的10个关键词)中国足球改革总体方案(足球改革的10个关键词)【字体:大中小】打印本页分享CFPCFP新华社发备受瞩目的《中国足球改革发展总体方案》(以下简称《方案》)3月1……
日常知识ss是什么意思在我们的生活当中有很多的常识性的知识大多数人都是不知道的,就好比最近就有很多小伙伴咨询小编问小编关于ss是什么意思的这些知识点,这就说明了现在人们也开开渐渐关注起了ss是什么意……