人造大腦快來(lái)了

為陽(yáng)新等地區(qū)用戶提供了全套網(wǎng)頁(yè)設(shè)計(jì)制作服務(wù)，及陽(yáng)新網(wǎng)站建設(shè)行業(yè)解決方案。主營(yíng)業(yè)務(wù)為網(wǎng)站建設(shè)、成都做網(wǎng)站、陽(yáng)新網(wǎng)站設(shè)計(jì)，以傳統(tǒng)方式定制建設(shè)網(wǎng)站，并提供域名空間備案等一條龍服務(wù)，秉承以專業(yè)、用心的態(tài)度為用戶提供真誠(chéng)的服務(wù)。我們深信只要達(dá)到每一位用戶的要求，就會(huì)得到認(rèn)可，從而選擇與我們長(zhǎng)期合作。這樣，我們也可以走得更遠(yuǎn)！

本文來(lái)自微信公眾號(hào)“新智元”（ID:AI_era），編輯：priscilla Emil，36氪經(jīng)授權(quán)發(fā)布。

來(lái)源：Nature Communications

【導(dǎo)讀】來(lái)自悉尼大學(xué)和日本國(guó)家材料科學(xué)研究所的科學(xué)家們?cè)谧匀煌ㄓ嵣习l(fā)文：通過(guò)納米線網(wǎng)絡(luò)能夠模擬人類大腦對(duì)于電信號(hào)的應(yīng)激反應(yīng)，這可能為人工智能領(lǐng)域打開(kāi)一扇新的大門。

如今主流的人工智能技術(shù)從某種意義上來(lái)講是受到大腦結(jié)構(gòu)的啟發(fā)而發(fā)明的。

然而隨著計(jì)算機(jī)算力的不斷提升，計(jì)算機(jī)的AI計(jì)算已經(jīng)與人腦有了本質(zhì)的區(qū)別：與人類大腦相比，AI通過(guò)在大數(shù)據(jù)中尋找模型規(guī)律的能力是人類大腦遠(yuǎn)不能及的。

但是人類的大腦顯然不相信「大力出奇跡」，并且大腦處理的信息往往都是稀疏、復(fù)雜而且時(shí)時(shí)都在劇烈變化的。

這也是如今不少AI科學(xué)家們夢(mèng)寐以求的特性。最近，來(lái)自悉尼大學(xué)和日本國(guó)家材料科學(xué)研究所的科學(xué)家們?cè)谧匀煌ㄓ嵣习l(fā)表論文，試著通過(guò)使用納米線網(wǎng)絡(luò)（NWN）來(lái)模擬人類大腦在受到電激時(shí)的反應(yīng)，實(shí)驗(yàn)效果還不錯(cuò)。

所謂納米線網(wǎng)絡(luò)是由一堆平均長(zhǎng)度不超過(guò)10微米，直徑不超過(guò)500納米的銀納米團(tuán)隨機(jī)鋪在晶圓上，并且在上面覆蓋一層約1納米厚的絕緣聚合物。

與傳統(tǒng)的集成電路不同的是，當(dāng)電流流經(jīng)網(wǎng)絡(luò)時(shí)，將引起銀離子在聚合物中遷徙，從而在流經(jīng)不同的類似突觸結(jié)構(gòu)時(shí)，便會(huì)產(chǎn)生與人類大腦類似的反應(yīng)。

這也為從微觀物理結(jié)構(gòu)角度來(lái)解釋大腦的工作原理打下了基礎(chǔ)。

研究團(tuán)隊(duì)的最新結(jié)果表明，將納米線網(wǎng)絡(luò)保持在一個(gè)類似「混沌邊緣」的狀態(tài)，在處理任務(wù)時(shí)可以獲得相當(dāng)高效而且理想的結(jié)果。

這似乎為人工智能計(jì)算打開(kāi)了新的大門。

研究人員利用含有pVp涂層的自組裝銀納米線形成高度無(wú)序、復(fù)雜的網(wǎng)絡(luò)拓?fù)?。NWN作為一種神經(jīng)形態(tài)設(shè)備，在整個(gè)網(wǎng)絡(luò)的固定電極位置之間應(yīng)用偏壓操作。

為了更深入地了解神經(jīng)形態(tài)動(dòng)力學(xué)，研究人員開(kāi)發(fā)了一個(gè)物理驅(qū)動(dòng)的 Ag pVp NWN 計(jì)算模型。

當(dāng) 0 ≤ ∣Λ∣ < Λcrit 時(shí)為絕緣。當(dāng)∣Λ∣ 接近 Λcrit 時(shí)，交界處過(guò)渡到隧穿狀態(tài)，其中電導(dǎo)隨 ∣Λ∣ 的增加呈指數(shù)增長(zhǎng)。

接下來(lái)，論文介紹了使用該模型做的模擬實(shí)驗(yàn)，分析該神經(jīng)形態(tài)系統(tǒng)的網(wǎng)絡(luò)級(jí)動(dòng)態(tài)。

該部分的研究結(jié)果表明，NWN能夠自適應(yīng)地響應(yīng)外部驅(qū)動(dòng)，并且可以在雙穩(wěn)態(tài)（LCS和HCS）之間進(jìn)行一階相變。這些全局網(wǎng)絡(luò)動(dòng)態(tài)狀態(tài)源于節(jié)點(diǎn)之間的循環(huán)連接及其切換狀態(tài)。

節(jié)點(diǎn)切換驅(qū)動(dòng)非本地傳輸

網(wǎng)絡(luò)激活或去激活可以理解為節(jié)點(diǎn)之間的循環(huán)連接中出現(xiàn)的集體效應(yīng)。

根據(jù)基爾霍夫定律（KVL），所有進(jìn)入某節(jié)點(diǎn)的電流總和等于所有離開(kāi)這節(jié)點(diǎn)的電流總和；沿著閉合回路所有元件兩端的電壓的代數(shù)和等于零。

經(jīng)過(guò)一系列交匯點(diǎn)的切換，實(shí)驗(yàn)結(jié)果表明，傳輸通路的出現(xiàn)是因?yàn)閺?fù)雜網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)和憶阻連接點(diǎn)切換之間產(chǎn)生的耦合。當(dāng)連接點(diǎn)過(guò)渡到導(dǎo)電狀態(tài)時(shí)，會(huì)引發(fā)級(jí)聯(lián)活動(dòng)，自適應(yīng)地重新將電壓分配到周圍。

研究團(tuán)隊(duì)發(fā)現(xiàn)，在神經(jīng)元群和其他神經(jīng)形態(tài)系統(tǒng)中，具有無(wú)標(biāo)度大小和生命周期事件統(tǒng)計(jì)數(shù)據(jù)的雪崩，這是臨界動(dòng)力學(xué)的一個(gè)標(biāo)志。

通過(guò)改變遠(yuǎn)離閾值Vth的驅(qū)動(dòng)電壓強(qiáng)度，雪崩分布開(kāi)始偏離冪律。

當(dāng)V*<1時(shí)，網(wǎng)絡(luò)中無(wú)法形成通路，切換會(huì)導(dǎo)致小規(guī)模雪崩（圖中黑點(diǎn)所示）。

當(dāng)V*接近1時(shí)，分布延長(zhǎng)，成為冪律（圖中紅點(diǎn)所示）。

當(dāng)V*=1時(shí)，即網(wǎng)絡(luò)激活時(shí)，雙峰分布明顯，雪崩特征明顯且出現(xiàn)在冪律尾部。

隨著網(wǎng)絡(luò)規(guī)模增加，凸起相對(duì)于冪律區(qū)域的概率密度也會(huì)增加。這表明這些異常大的雪崩符合超臨界狀態(tài)。

用信號(hào)控制網(wǎng)絡(luò)狀態(tài)

在不同的電信號(hào)刺激下，納米線網(wǎng)絡(luò)呈現(xiàn)出了不同狀態(tài)的反應(yīng)。想要讓納米線網(wǎng)絡(luò)呈現(xiàn)出「邊緣混沌」?fàn)顟B(tài)，需要令驅(qū)動(dòng)系統(tǒng)的交流電信號(hào)的李雅普諾夫指數(shù)λ≈0。

當(dāng)λ≈0的時(shí)候，系統(tǒng)會(huì)進(jìn)入到「邊緣混沌」?fàn)顟B(tài)

另外研究還發(fā)現(xiàn)，當(dāng)慢速驅(qū)動(dòng)時(shí)，網(wǎng)絡(luò)能夠適應(yīng)并維持?jǐn)_動(dòng)幅度，而當(dāng)快速驅(qū)動(dòng)時(shí)，網(wǎng)絡(luò)則無(wú)法適應(yīng)擾動(dòng)，并且會(huì)導(dǎo)致相鄰網(wǎng)絡(luò)節(jié)點(diǎn)分離。而頻率的快慢則取決于信號(hào)的幅度以及網(wǎng)絡(luò)的結(jié)構(gòu)（大小和密度）。而在擾動(dòng)收縮和擾動(dòng)增長(zhǎng)之間的動(dòng)態(tài)平衡機(jī)制，則可以維持系統(tǒng)的穩(wěn)定性。

所以通過(guò)調(diào)整驅(qū)動(dòng)信號(hào)來(lái)控制系統(tǒng)狀態(tài)，可以令納米線網(wǎng)絡(luò)維持在理想的狀態(tài)下。

納米線網(wǎng)絡(luò)初試鋒芒

為了驗(yàn)證納米線網(wǎng)絡(luò)的性能，研究團(tuán)隊(duì)使用它進(jìn)行了簡(jiǎn)單的波形變換工作。

將正弦波輸入網(wǎng)絡(luò)，通過(guò)線性回歸模型來(lái)訓(xùn)練不同目標(biāo)的波形，最后將納米線電壓作為輸出。可以獲得下圖的波形：

可以驗(yàn)證，不同的λ值對(duì)應(yīng)著不同的變換精度，當(dāng)λ≈0時(shí)，系統(tǒng)精度達(dá)到了0.95，對(duì)于方形波而言，當(dāng)網(wǎng)絡(luò)處于「混沌」?fàn)顟B(tài)時(shí)（λ＞0），精度會(huì)迅速下降。根據(jù)不同復(fù)雜度的計(jì)算任務(wù)，系統(tǒng)的計(jì)算精度展現(xiàn)出不同的變化，但是當(dāng)系統(tǒng)處于「混沌邊緣」?fàn)顟B(tài)時(shí)，表現(xiàn)最為出色。

總而言之，納米線神經(jīng)網(wǎng)絡(luò)可以通過(guò)控制輸入信號(hào)的控制下可以在有序和混沌狀之間進(jìn)行調(diào)整，這表明納米線網(wǎng)絡(luò)可以調(diào)整成為與大腦類似的，多樣化的動(dòng)力學(xué)機(jī)制，在信息處理以及人工智能的相關(guān)計(jì)算領(lǐng)域潛力巨大。

對(duì)于傳統(tǒng)的人工智能網(wǎng)絡(luò)而言，計(jì)算機(jī)在訓(xùn)練網(wǎng)絡(luò)算法時(shí)需要判斷給哪個(gè)節(jié)點(diǎn)分配適量的負(fù)載，而這套系統(tǒng)則不需要類似的算法，因?yàn)榧{米線網(wǎng)絡(luò)可以自動(dòng)適應(yīng)并分配節(jié)點(diǎn)的負(fù)載。

這可以節(jié)省許多的計(jì)算資源，還能夠降低AI計(jì)算的碳足跡，發(fā)表這項(xiàng)研究的科學(xué)家說(shuō)到。

目前這份研究的代碼已經(jīng)在Github上開(kāi)源，有興趣的讀者可以移步：

https://github.com/joelhochstetter/NWNsim

參考資料：

https://www.nature.com/articles/s41467-021-24260-z#MOESM1