版權(quán)歸原作者所有,如有侵權(quán),請聯(lián)系我們

顛覆AI計算,提升460倍能效,新型分子憶阻器“效率”驚人

學(xué)術(shù)頭條
一起見證人類探索征途上的每一個重大突破。
收藏

人工智能(AI)硬件有望徹底被顛覆,在計算速度和能效方面實現(xiàn)前所未有的改進(jìn)。

日前,來自印度科學(xué)研究所、德克薩斯農(nóng)工大學(xué)和利默里克大學(xué)的研究團(tuán)隊,在一篇發(fā)表在權(quán)威科學(xué)期刊 Nature 上的研究論文中介紹了一種新型分子憶阻器,將神經(jīng)形態(tài)計算提升到了前所未有的高精度。

加之神經(jīng)形態(tài)計算固有的功耗低、延遲小、可擴展性高等特點,這一研究為人工智能的未來發(fā)展,尤其在能效需求迫切的領(lǐng)域提供了新的可能性。

據(jù)介紹,他們設(shè)計了一種基于釕(Ru)復(fù)合物的新型分子憶阻器(神經(jīng)形態(tài)硬件中的核心組件),其使用一種偶氮芳香配體,能夠?qū)崿F(xiàn) 14 位的分辨率,并通過精確的動力學(xué)控制,可訪問多達(dá) 16520 個不同的模擬電導(dǎo)水平。相比于傳統(tǒng)的計算方式,這種新型分子憶阻器具備以下特點

超高精度:信噪比達(dá)到 73 dB,超過現(xiàn)有技術(shù)四個數(shù)量級。

極低能耗:相比數(shù)字計算機,能效提升 460 倍。

大規(guī)模并行運算:可以在分子級別完成計算任務(wù),顯著提升計算效率。

圖片

研究團(tuán)隊表示,這種新型分子憶阻器的應(yīng)用可能擴展神經(jīng)形態(tài)計算的范圍,使其超越目前的小眾應(yīng)用,增強從云端到邊緣的數(shù)字電子設(shè)備的核心功能。

值得一提的是,這種新型憶阻器有望成為復(fù)雜人工智能模型(如 GAN 和 Transformer)的重要加速器

研究團(tuán)隊表示:“我們的終極目標(biāo)是用這種基于環(huán)保節(jié)能材料的高性能計算系統(tǒng),取代現(xiàn)有的計算架構(gòu),并將其應(yīng)用到日常生活的各個領(lǐng)域,從服裝、食品包裝到建筑材料,真正實現(xiàn)分布式的無處不在的信息處理。”

迄今最大,克服傳統(tǒng)計算架構(gòu)瓶頸

神經(jīng)形態(tài)計算的核心理念是模擬生物神經(jīng)網(wǎng)絡(luò)的工作方式,從而提高計算效率并降低能耗。在這一架構(gòu)下,神經(jīng)元和突觸的行為被仿真為計算元件,能夠在硬件中直接執(zhí)行大量向量-矩陣乘法(VMM)運算。相比傳統(tǒng)的馮·諾依曼架構(gòu),其具有三大優(yōu)勢:

并行處理:像大腦一樣,可以同時處理大量信息。

低功耗:受生物神經(jīng)元啟發(fā),功耗遠(yuǎn)低于傳統(tǒng)計算機。

自適應(yīng)學(xué)習(xí):可以像人類大腦一樣,通過不斷調(diào)整連接權(quán)重,完成復(fù)雜的學(xué)習(xí)任務(wù)。

在神經(jīng)形態(tài)計算系統(tǒng)中,憶阻器模擬了神經(jīng)元突觸的功能,通過改變電阻來存儲和傳遞信息,使得運算可以在存儲單元中直接進(jìn)行,提升了計算的速度和效率。

傳統(tǒng)計算架構(gòu)在執(zhí)行 VMM 時,通常需要頻繁地在存儲器和處理器之間移動數(shù)據(jù),耗費大量時間和能量。而憶阻器使得數(shù)據(jù)可以直接在存儲單元中完成計算,可以顯著提高效率。

然而,受材料特性和電子元件性能的限制,現(xiàn)有神經(jīng)形態(tài)硬件在計算精度、效率和復(fù)雜任務(wù)處理方面仍面臨許多挑戰(zhàn),尤其在執(zhí)行信號處理、神經(jīng)網(wǎng)絡(luò)訓(xùn)練和自然語言處理等核心計算任務(wù)中。

在這項工作中,為了提升神經(jīng)形態(tài)計算的效率,他們利用先進(jìn)的納米技術(shù)和材料科學(xué),構(gòu)建了迄今為止最大的 64×64 的分子憶阻器交叉陣列。這一設(shè)計不僅增加了系統(tǒng)的規(guī)模和復(fù)雜性,還能夠在單一步驟中直接執(zhí)行 VMM 運算,徹底避免了傳統(tǒng)計算架構(gòu)中的數(shù)據(jù)移動瓶頸。

他們表示,這一設(shè)計受人腦工作機制的啟發(fā),利用分子在晶格中的自然運動處理和存儲信息。這種“分子游覽日記”式的運作方式,為未來的數(shù)據(jù)中心、內(nèi)存密集型應(yīng)用以及在線游戲帶來了巨大的節(jié)能潛力。

圖片

圖|線性和對稱性(a:64×64 的分子憶阻器交叉陣列的顯微圖像;b:一個交叉點在 50 個測量周期內(nèi)的模擬重量更新特征;c:2000 個不同電導(dǎo)水平和 10,002、10,003 的讀出值及其各自的分布;d:根據(jù)每個電導(dǎo)水平的 2000 個數(shù)據(jù)點計算出的不同電導(dǎo)水平的累積分布函數(shù);e:所有 16520 個電導(dǎo)水平的 σn 和 ΔGn;f:所有電導(dǎo)水平均通過 500 mV 和 -500 mV 兩種不同幅度的脈沖讀?。?/p>

研究發(fā)現(xiàn),這種憶阻器展現(xiàn)出模擬權(quán)重更新的特性,通過施加不同幅度和持續(xù)時間的方波脈沖,實現(xiàn)了 16520 個獨特的模擬電導(dǎo)狀態(tài),這些狀態(tài)覆蓋了從 200ns 到 5.9ms 的四個數(shù)量級范圍。

性能顛覆傳統(tǒng)硬件架構(gòu)

為了確保這種分子憶阻器的精度,研究團(tuán)隊設(shè)計了一個超過 16 位精度的 CMOS 電路,并對交叉陣列的電導(dǎo)性能進(jìn)行了詳細(xì)驗證。結(jié)果顯示,相鄰電導(dǎo)水平的誤差概率低于 10^-9,展現(xiàn)了優(yōu)異的低誤差率和高穩(wěn)定性。

在長達(dá) 10^9 次操作后,該憶阻器的權(quán)重更新特性依然保持穩(wěn)定,且其模擬電導(dǎo)狀態(tài)表現(xiàn)出與生物突觸類似的尖峰時間依賴可塑性(STDP),為未來在神經(jīng)形態(tài)計算中的廣泛應(yīng)用提供了技術(shù)支撐。

為了進(jìn)一步研究分子憶阻器的工作機制,研究人員使用原位拉曼光譜技術(shù)揭示了其背后的分子電子動力學(xué)。他們發(fā)現(xiàn),電導(dǎo)水平的轉(zhuǎn)變是由兩種分子電子狀態(tài)之間的超分子電荷轉(zhuǎn)移驅(qū)動的,這為控制憶阻器行為提供了科學(xué)依據(jù)。

實驗中,基于這種憶阻器的 VMM 運算成功實現(xiàn)了單步(one-step)離散傅里葉變換(DFT)。

圖片

圖|VMM 的實現(xiàn)

實驗結(jié)果顯示,基于這種新型分子憶阻器的 VMM 運算獲得了 74 dB 的信噪比(SNR)和 76.5 dB 的峰值信噪比(PSNR),這比現(xiàn)有技術(shù)提高了 10^4 倍。

他們表示,這種新型分子憶阻器為執(zhí)行計算密集型任務(wù)提供了精確而高效的解決方案,尤其在人工神經(jīng)網(wǎng)絡(luò)、自動編碼器和生成式對抗網(wǎng)絡(luò)(GAN)等領(lǐng)域的應(yīng)用前景廣闊。

不足與展望

盡管這項研究在神經(jīng)形態(tài)計算領(lǐng)域取得了顯著進(jìn)展,但距離實際應(yīng)用仍然面臨一些挑戰(zhàn)。

當(dāng)前的實驗成果主要集中在較小規(guī)模的交叉陣列上,要將這項技術(shù)大規(guī)模應(yīng)用于實際計算設(shè)備,還需要進(jìn)一步擴大陣列規(guī)模并實現(xiàn)芯片級集成。如何在更大規(guī)模下維持相同的精度和性能,是未來技術(shù)發(fā)展的關(guān)鍵難題。

盡管研究團(tuán)隊提出了能效優(yōu)化設(shè)計,但要真正達(dá)到實驗中預(yù)測的能效提升,還需進(jìn)一步優(yōu)化外圍電路。此外,分子級憶阻器的制造工藝復(fù)雜,要實現(xiàn)大規(guī)模低成本生產(chǎn),還有很長的路要走。

盡管面臨這些局限,該研究依然展示出廣闊的應(yīng)用前景。

首先,這項技術(shù)在多種矩陣乘法中展現(xiàn)出一致的高精度,使其在信號處理、機器學(xué)習(xí)等領(lǐng)域具有廣泛的應(yīng)用潛力。尤其是在支持復(fù)雜的人工智能模型方面,如生成式對抗網(wǎng)絡(luò)(GAN)和 Transformer 等,這種新型憶阻器有望成為重要的加速器。

此外,這項技術(shù)在邊緣計算中的應(yīng)用前景尤其值得期待。憑借極高的能效,它可以推動智能設(shè)備和物聯(lián)網(wǎng)中低功耗應(yīng)用的發(fā)展,尤其是在需要實時響應(yīng)的場景中,如自動駕駛或智能醫(yī)療設(shè)備。

未來,隨著陣列規(guī)模的擴大和能效的進(jìn)一步提升,這種分子憶阻器有望成為推動神經(jīng)形態(tài)計算和人工智能發(fā)展的關(guān)鍵技術(shù),為數(shù)據(jù)中心、邊緣計算設(shè)備和 AI 加速器提供更高效、更節(jié)能的計算解決方案。

作者:田小婷

評論
科普科普知識的搖籃!
大學(xué)士級
隨著新研究的突破,新型分子憶阻器在信號處理、機器學(xué)習(xí)和復(fù)雜AI模型加速方面展現(xiàn)出的潛力,預(yù)示著其可能成為推動神經(jīng)形態(tài)計算和人工智能發(fā)展的關(guān)鍵技術(shù)。隨著未來技術(shù)的成熟和應(yīng)用,這種分子憶阻器將為數(shù)據(jù)中心、邊緣計算設(shè)備和AI加速器帶來更高效、更節(jié)能的計算解決方案。
2024-10-15
無為通達(dá)
學(xué)士級
新型分子憶阻器的出現(xiàn)為AI計算帶來了革命性的變化。隨著研究的深入和技術(shù)的不斷進(jìn)步,我們有理由相信這一技術(shù)將在未來發(fā)揮更大的作用,推動人工智能和相關(guān)領(lǐng)域的快速發(fā)展。
2024-10-15
臭皮匠心
學(xué)士級
新型分子憶阻器的出現(xiàn)為解決AI計算算力困境帶來了新的希望。雖然目前還面臨一些挑戰(zhàn),但隨著研究的不斷深入,我們有理由相信,新型分子憶阻器將成為推動人工智能發(fā)展的關(guān)鍵技術(shù),為人類創(chuàng)造更加智能、高效的未來。
2024-10-15