中新網(wǎng)北京6月1日電 (記者 孫自法)如何借鑒人腦的低功耗特性發(fā)展新型智能計(jì)算系統(tǒng)?這是人工智能領(lǐng)域頗受關(guān)注的重要研究方向。
中國(guó)科學(xué)院自動(dòng)化研究所6月1日向媒體發(fā)布消息說(shuō),該所李國(guó)齊、徐波研究員團(tuán)隊(duì)與合作者共同研發(fā)出一套能夠?qū)崿F(xiàn)動(dòng)態(tài)計(jì)算的算法-軟件-硬件協(xié)同設(shè)計(jì)的、低功耗的類腦神經(jīng)形態(tài)系統(tǒng)級(jí)芯片Speck,展示出類腦神經(jīng)形態(tài)計(jì)算在融合高抽象層次大腦機(jī)制時(shí)的天然優(yōu)勢(shì)。
本次研究的類腦神經(jīng)形態(tài)系統(tǒng)級(jí)芯片Speck設(shè)計(jì)框架。中國(guó)科學(xué)院自動(dòng)化研究所/供圖這項(xiàng)人工智能領(lǐng)域重要研究成果論文,近日在國(guó)際學(xué)術(shù)期刊《自然-通訊》(Nature Communications)發(fā)表。該研究實(shí)踐證實(shí)高、低抽象層次大腦機(jī)制的融合能進(jìn)一步激發(fā)類腦計(jì)算潛力,將為未來(lái)將大腦進(jìn)化過(guò)程中產(chǎn)生的各種高級(jí)神經(jīng)機(jī)制融合至神經(jīng)形態(tài)計(jì)算提供啟發(fā)。
論文通訊作者李國(guó)齊研究員介紹說(shuō),人腦能夠運(yùn)行非常復(fù)雜且龐大的神經(jīng)網(wǎng)絡(luò),總功耗卻僅為20瓦,遠(yuǎn)小于現(xiàn)有的人工智能系統(tǒng)。因此,在算力比拼加速,能耗日益攀升的今日,借鑒人腦的低功耗特性發(fā)展新型智能計(jì)算系統(tǒng)成為極具潛力的方向。
本次研究基于的人腦中的注意力機(jī)制示意圖。中國(guó)科學(xué)院自動(dòng)化研究所/供圖在本項(xiàng)研究中,合作團(tuán)隊(duì)提出“神經(jīng)形態(tài)動(dòng)態(tài)計(jì)算”的概念,通過(guò)設(shè)計(jì)一種類腦神經(jīng)形態(tài)芯片Speck來(lái)實(shí)現(xiàn)基于注意力機(jī)制的動(dòng)態(tài)計(jì)算,在硬件層面做到“沒(méi)有輸入,沒(méi)有功耗”,在算法層面做到“有輸入時(shí),根據(jù)輸入重要性程度動(dòng)態(tài)調(diào)整計(jì)算”,從而在典型視覺(jué)場(chǎng)景任務(wù)功耗可低至0.7毫瓦,進(jìn)一步挖掘出神經(jīng)形態(tài)計(jì)算在性能和能效上的潛力。
Speck是一款異步感算一體類腦神經(jīng)形態(tài)系統(tǒng)級(jí)芯片,采用全異步設(shè)計(jì),在一塊芯片上集成了動(dòng)態(tài)視覺(jué)傳感器(DVS相機(jī))和類腦神經(jīng)形態(tài)芯片,具有極低的靜息功耗(僅為0.42毫瓦)。它能夠以微秒級(jí)的時(shí)間分辨率感知視覺(jué)信息,以全異步方式設(shè)計(jì)拋棄了全局時(shí)鐘控制信號(hào),避免時(shí)鐘空翻帶來(lái)的能耗開銷,僅在有事件輸入時(shí)才觸發(fā)稀疏加法運(yùn)算。
本次研究融合了注意力脈沖動(dòng)態(tài)計(jì)算的類腦神經(jīng)形態(tài)系統(tǒng)級(jí)芯片Speck原理示意圖。中國(guó)科學(xué)院自動(dòng)化研究所/供圖李國(guó)齊指出,針對(duì)脈沖神經(jīng)網(wǎng)絡(luò)(SNN)在更高層面,比如時(shí)間維度中不能根據(jù)輸入難易度調(diào)整其脈沖發(fā)放等“動(dòng)態(tài)失衡”問(wèn)題,這項(xiàng)研究基于注意力機(jī)制的神經(jīng)形態(tài)脈沖動(dòng)態(tài)計(jì)算框架,在多種粒度上實(shí)現(xiàn)對(duì)不同的輸入進(jìn)行有區(qū)分地動(dòng)態(tài)響應(yīng)。同時(shí),Speck軟件工具鏈編程框架支持動(dòng)態(tài)計(jì)算脈沖神經(jīng)網(wǎng)絡(luò)算法訓(xùn)練和部署。
該研究的實(shí)驗(yàn)結(jié)果表明,注意力機(jī)制可使得脈沖神經(jīng)網(wǎng)絡(luò)具備動(dòng)態(tài)計(jì)算能力,即根據(jù)輸入難易度調(diào)整其脈沖發(fā)放模式解決“動(dòng)態(tài)失衡”問(wèn)題,在顯著降低功耗的同時(shí),提升任務(wù)性能。在一個(gè)動(dòng)態(tài)視覺(jué)傳感數(shù)據(jù)集上,融合脈沖動(dòng)態(tài)計(jì)算的Speck在任務(wù)精度提升9%的同時(shí),平均功耗由9.5毫瓦降低至3.8毫瓦。(完)