大腦如此嘈雜 對(duì)思考方式有驚人的重要性

據(jù)國(guó)外媒體報(bào)道，大腦中的自發(fā)秩序和噪音對(duì)我們的思考方式有驚人的重要性。現(xiàn)代人工智能(AI)的核心挑戰(zhàn)之一可以用一輛黃色校車(chē)來(lái)說(shuō)明。如果是在鄉(xiāng)村公路上正面觀察，深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)可以自信地準(zhǔn)確識(shí)別出校車(chē)。然而，如果校車(chē)側(cè)方位停在馬路正對(duì)面，那算法可能就會(huì)很有自信地認(rèn)為它是一輛掃雪車(chē)。如果從某個(gè)角度從下往上看，它又會(huì)被當(dāng)作一輛垃圾車(chē)。

問(wèn)題之一在于情境。當(dāng)一張新圖像與訓(xùn)練圖像集足夠不同時(shí)，即使差別只是簡(jiǎn)單的旋轉(zhuǎn)或障礙物，深度學(xué)習(xí)的視覺(jué)識(shí)別也會(huì)發(fā)生錯(cuò)誤。相反地，情境的生成似乎取決于某種非同尋常的連線和信號(hào)生成功能——至少在人類大腦中是這樣。

Matthias Kaschube是德國(guó)法蘭克福高等研究院的神經(jīng)科學(xué)家，主要研究大腦回路的組成、功能和維持，他通過(guò)建立模型來(lái)研究大腦中的神經(jīng)元連線，并在模型中描述了在實(shí)驗(yàn)中觀察到的大腦活動(dòng)。他和法蘭克福高等研究院、馬克斯普朗克佛羅里達(dá)神經(jīng)科學(xué)研究所、明尼蘇達(dá)大學(xué)和其他研究機(jī)構(gòu)的同行們發(fā)現(xiàn)，大腦有著許多與計(jì)算機(jī)形成鮮明對(duì)比的特征：自發(fā)活動(dòng)、相關(guān)的動(dòng)態(tài)情境生成、不穩(wěn)定的傳輸，以及直接的噪音。有人將大腦稱為宇宙中最復(fù)雜的物體，而這些似乎正是大腦的基本特征。在接受nautilus網(wǎng)站的采訪時(shí)，Matthias Kaschube闡述了大腦和人工智能在處理視覺(jué)信息時(shí)的差異，以及大腦中自發(fā)神經(jīng)活動(dòng)帶來(lái)的啟示。

計(jì)算機(jī)電路與大腦回路之間最大的區(qū)別是什么?

計(jì)算機(jī)屬于數(shù)字設(shè)備，它們使用的是可以打開(kāi)或關(guān)閉的二進(jìn)制單元，而我們的神經(jīng)元是模擬設(shè)備。它們的輸出是二元的——神經(jīng)元在給定時(shí)刻發(fā)出或不發(fā)出信號(hào)——但輸入?yún)s是分層級(jí)的。神經(jīng)元的活動(dòng)取決于許多因素。而且，我們所建立的計(jì)算系統(tǒng)，比如計(jì)算機(jī)，是確定性的。你提供了特定的輸入，就會(huì)得到特定的輸出。當(dāng)你反復(fù)提供相同的輸入時(shí)，就會(huì)得到相同的輸出。這與大腦中的情況非常不同。在大腦中，即使你選擇了完全相同的刺激，每次試驗(yàn)得到的反應(yīng)也會(huì)有所不同。

大腦中這種可變的反應(yīng)來(lái)自何處?

現(xiàn)在有各種假說(shuō)。例如，可能存在不穩(wěn)定的突觸傳遞。工程師通常不會(huì)在一個(gè)系統(tǒng)中構(gòu)建這種東西。當(dāng)一個(gè)神經(jīng)元處于活動(dòng)狀態(tài)，并且信號(hào)沿著軸突運(yùn)行時(shí)，該信號(hào)并不能保證實(shí)際到達(dá)下一個(gè)神經(jīng)元。它跨越突觸的概率可能只有一半，甚至更少。這會(huì)給系統(tǒng)帶來(lái)很多噪音。

另一個(gè)因素是大腦其他部分的持續(xù)活動(dòng)。例如，視覺(jué)皮層會(huì)被視覺(jué)場(chǎng)景激活，但它也從其他大腦區(qū)域接收大量信息。由于存在大量交叉的連線，因此大腦的這些其他部分可以在任何給定時(shí)間影響視覺(jué)皮層中的活動(dòng)模式。這可以非常顯著地調(diào)制輸入信號(hào)。部分這種調(diào)制可能在生成情境和編碼預(yù)期時(shí)很有用。當(dāng)你聽(tīng)到狗的吠叫后，你會(huì)轉(zhuǎn)身，然后尋找那只狗。我們?cè)絹?lái)越認(rèn)識(shí)到，大腦的一部分反應(yīng)多變性實(shí)際上是有意義的，并且包含重要的背景信息或情境信息。

大腦中的自發(fā)活動(dòng)有什么作用?

即使你沒(méi)有任何視覺(jué)輸入，視覺(jué)皮層也不會(huì)沉默。它能顯示出廣泛而強(qiáng)烈的活動(dòng)模式，有時(shí)與真實(shí)視覺(jué)刺激引起的活動(dòng)一樣強(qiáng)烈，并且在結(jié)構(gòu)上也可能十分相似。鑒于這種相似性，自發(fā)活動(dòng)可能代表了某種視覺(jué)想象。你看到了某些東西，但與此同時(shí)，你在視覺(jué)上想到了昨天看到的東西。自發(fā)活動(dòng)可能是逐次試驗(yàn)中大腦反應(yīng)多變的原因之一。

我們是否理解大腦中噪音的本質(zhì)?

我們?cè)趯?shí)驗(yàn)中看到的波動(dòng)是否真的有意義?是否包含我們尚未理解的信息?或者它們只是由生化過(guò)程的隨機(jī)性引起的噪音，而大腦需要對(duì)它們忽略或平衡?這些問(wèn)題都還存在爭(zhēng)論。為了獲得更好的持續(xù)波動(dòng)模型，我們必須了解這些波動(dòng)的來(lái)源。舉例來(lái)說(shuō)，我們可以通過(guò)觀察動(dòng)物行為來(lái)做到這一點(diǎn)。動(dòng)物處理視覺(jué)刺激的神經(jīng)活動(dòng)取決于視覺(jué)對(duì)象是否移動(dòng)，以及是否值得警惕。如果你能記錄許多神經(jīng)元的活動(dòng)，你就能理解皮層中某一部分的多變性可能是其他部分的活動(dòng)造成的。一旦我們能夠同時(shí)記錄大腦大部分區(qū)域的活動(dòng)，我們就能理解這種多變性。

大腦中的噪音真的有用嗎?

大腦不是完全確定性的，即每次我們看同樣的事情時(shí)，大腦處理的方式會(huì)略有不同。這一點(diǎn)可能是有用的。對(duì)相同刺激做出略有不同的反應(yīng)可以幫助我們察覺(jué)場(chǎng)景中的不同方面。然而，外部世界中有許多與我們無(wú)關(guān)的細(xì)節(jié)。視覺(jué)場(chǎng)景可以有成千上萬(wàn)的特征，其中許多都無(wú)關(guān)緊要。做出略微嘈雜的反應(yīng)可能有助于我們忽略一些不太相關(guān)的特征。想一下演化，隨機(jī)突變之后便是適者生存。以此作為類比，可能大腦增加噪音的目的是采集外界事物呈現(xiàn)的不同特征。通過(guò)探索潛在表征的范圍，大腦可能會(huì)嘗試找出最適合當(dāng)前情境的那個(gè)特征。噪音可能促進(jìn)了這種搜索。

發(fā)育中的大腦何時(shí)出現(xiàn)自發(fā)活動(dòng)?

有趣的是，在任何結(jié)構(gòu)性的感覺(jué)輸入之前，自發(fā)性神經(jīng)活動(dòng)的模式就已經(jīng)在大腦發(fā)育早期高度結(jié)構(gòu)化。例如，在視覺(jué)皮層中，這種自發(fā)活動(dòng)出現(xiàn)在眼睛睜開(kāi)之前。在眼睛睜開(kāi)之后，其中一些自發(fā)活動(dòng)模式會(huì)與實(shí)際視覺(jué)刺激聯(lián)系起來(lái)。這種聯(lián)系一旦建立，就可能是終生穩(wěn)定持續(xù)的。

這些早期模式是否與“先天還是后天”的爭(zhēng)論有關(guān)?

這種自發(fā)活動(dòng)模式很早就出現(xiàn)了，但我們尚未理解是什么造就了它們的結(jié)構(gòu)。有可能是這種結(jié)構(gòu)是硬連線，并且由基因預(yù)先決定，但似乎更合理的解釋是，它是自組織過(guò)程的結(jié)果。動(dòng)力系統(tǒng)理論中有一些概念描述了自組織系統(tǒng)如何形成復(fù)雜的模式。起點(diǎn)可能只是幾種基本規(guī)則，決定了神經(jīng)元如何形成回路，以及神經(jīng)回路活動(dòng)反過(guò)來(lái)如何在回饋環(huán)路中重塑連接性。實(shí)際上，這與“先天還是后天”關(guān)系不大，而是一個(gè)你實(shí)際需要多少先天因素來(lái)建立系統(tǒng)的問(wèn)題。你可以說(shuō)整個(gè)大腦都在我們的基因中，但這是不可能的，因?yàn)槲覀僁NA中的遺傳信息太少了，不足以決定所有的突觸連接。基因所能編碼的只是一些簡(jiǎn)單的規(guī)則，可以建立能夠演化并生成結(jié)構(gòu)的動(dòng)態(tài)系統(tǒng)。在大腦發(fā)育的早期階段，(神經(jīng)元活動(dòng))基本上是自主的，而在后期階段更多地受到感覺(jué)輸入的影響。

您是如何探測(cè)早期自發(fā)活動(dòng)的基因組成的?

一個(gè)有趣的可能方法是觀察同卵雙胞胎。幾年前，我們確實(shí)在這些方面做了一些工作。我們進(jìn)行了一項(xiàng)研究，觀察一群貓中的同窩幼貓。我們發(fā)現(xiàn)，同窩幼貓的視覺(jué)皮層中，活動(dòng)區(qū)域之間的間距相關(guān)性高于來(lái)自不同窩的個(gè)體。這表明存在某種遺傳因素，決定了這一基本特征。另一種可能方法是觀察這些結(jié)構(gòu)首次出現(xiàn)時(shí)的更早期發(fā)育階段，并嘗試操縱它們。

這種早期的自發(fā)活動(dòng)都是短程的嗎?

我們通過(guò)實(shí)驗(yàn)和建模發(fā)現(xiàn)，盡管早期突觸連接都是局部的，但可能會(huì)出現(xiàn)有趣的長(zhǎng)程相關(guān)活動(dòng)。這在成熟皮層中并不令人驚訝，因?yàn)槟抢镆呀?jīng)有了實(shí)際的長(zhǎng)程解剖學(xué)連接。但即使在早期，當(dāng)長(zhǎng)程連接還不存在時(shí)，依然可以獲得長(zhǎng)程相關(guān)性。長(zhǎng)程相關(guān)性很有意思，因?yàn)樗鼈冞B接了執(zhí)行不同處理過(guò)程的模塊。例如，當(dāng)你的視覺(jué)皮層在處理場(chǎng)景的不同部分時(shí)，視覺(jué)空間信息的整合可能就涉及到長(zhǎng)程相關(guān)性。

大腦會(huì)使用糾錯(cuò)編碼嗎?

這是非常合理的想法。舉例來(lái)說(shuō)，很早之前就有一種稱為“吸引子網(wǎng)絡(luò)”(attractor network)的概念，描述的是一個(gè)收斂到一組有限的活動(dòng)狀態(tài)的網(wǎng)絡(luò)。當(dāng)你提供某些輸入時(shí)，你會(huì)到達(dá)其中一個(gè)吸引子;當(dāng)你提供鄰近的輸入時(shí)，也會(huì)到達(dá)同一個(gè)吸引子。這就使網(wǎng)絡(luò)能夠抵抗少量的輸入變化和噪音。關(guān)于這種網(wǎng)絡(luò)已經(jīng)討論了許多年，但目前仍然很難在大腦中獲得很好的實(shí)驗(yàn)性證據(jù)。在足夠穩(wěn)定的條件下，將獲取自足夠數(shù)量細(xì)胞的記錄與允許我們直接改變神經(jīng)活動(dòng)的方法結(jié)合起來(lái)，將會(huì)很有幫助。

現(xiàn)在的人工智能與大腦相比如何?

深度神經(jīng)網(wǎng)絡(luò)是目前在眾多任務(wù)中表現(xiàn)最好的人工智能，它們顯然受到了大腦回路的啟發(fā)。深度網(wǎng)絡(luò)具有神經(jīng)元，這是一種層級(jí)結(jié)構(gòu)，具有連接可塑性。它們可能可以，也可能無(wú)法很好地類比大腦內(nèi)部最初處理階段時(shí)實(shí)際發(fā)生的情況，這在該領(lǐng)域還存在激烈的爭(zhēng)論。但是，目前人工智能的一個(gè)問(wèn)題是，它具有高度的情境特異性。你可以在數(shù)據(jù)集上訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)，它也適用于特定的數(shù)據(jù)集，但是當(dāng)你提供不同的數(shù)據(jù)集時(shí)，它并不能做出調(diào)整。這當(dāng)中缺少的便是情境的概念。當(dāng)情境變化時(shí)，人工智能必須以另一種方式來(lái)解讀輸入信號(hào)。這種靈活性對(duì)目前的人工智能來(lái)說(shuō)是巨大的挑戰(zhàn)。顯然，大腦在這方面做得很好。

我們將如何解決情境問(wèn)題?

我們需要從大腦中獲得更多靈感。例如，對(duì)大腦中自發(fā)活動(dòng)的一種解釋是，它能對(duì)情境進(jìn)行編碼。這在人工智能中可能也很有用處。此外，大腦對(duì)逐次試驗(yàn)的反應(yīng)多變性可能暗示著我們需要對(duì)人工智能做些什么。與大腦中存在的不穩(wěn)定突觸傳遞一樣，機(jī)器學(xué)習(xí)有時(shí)候也可以使用類似的方式來(lái)避免過(guò)度匹配。這是一個(gè)有趣的方向，我認(rèn)為其中還有更多值得學(xué)習(xí)的地方。

您觀察到的自發(fā)性長(zhǎng)程有序度是否可以為情境如何動(dòng)態(tài)生成提供線索?

是的，很有可能。發(fā)育早期的大腦中出現(xiàn)的(自發(fā)性長(zhǎng)程有序度)可以解釋為視覺(jué)表征(涉及不同物體之間的關(guān)系及其在視覺(jué)空間中的分布)的神經(jīng)基礎(chǔ)。在視覺(jué)場(chǎng)景處理中，我們所需要的很多東西，都是在對(duì)象和我們看到的對(duì)象部分之間形成正確的關(guān)系，而這可能就與長(zhǎng)程相關(guān)性有關(guān)。這只是推測(cè)，因?yàn)槔斫膺@些相關(guān)性的功能含義是很困難的。但是，自發(fā)性長(zhǎng)程有序度引人聯(lián)想，并且在直覺(jué)上可以合理地推測(cè)出，大腦中不同功能模塊之間的相關(guān)性在場(chǎng)景處理中發(fā)揮著某種作用。

深度學(xué)習(xí)網(wǎng)絡(luò)的連線方式是否和大腦一樣?

深度神經(jīng)網(wǎng)絡(luò)被批評(píng)很多的一點(diǎn)是，它們的連接通常是前饋的方式，意味著活動(dòng)從輸入層通過(guò)一系列中間層傳播，直到到達(dá)最終的輸出層。前饋網(wǎng)絡(luò)沒(méi)有環(huán)路。在給定層次中，環(huán)式連接(recurrent connection，即神經(jīng)元之間的連接)或者不存在，或者以粗糙的方式建模。卷積神經(jīng)網(wǎng)絡(luò)具有一個(gè)卷積內(nèi)核，它有點(diǎn)像環(huán)式連接，但是相對(duì)較少使用更現(xiàn)實(shí)和長(zhǎng)程的連接。此外，通常沒(méi)有任何自上而下的連接會(huì)朝輸入層的方向發(fā)回信息。環(huán)式連接和自上而下連接未被采用的部分原因是，它們使網(wǎng)絡(luò)訓(xùn)練變得更加困難。但是，在大腦皮層中，自上而下連接很多，環(huán)式連接更是占絕大多數(shù)。前饋網(wǎng)絡(luò)實(shí)際上是一種粗糙的過(guò)度簡(jiǎn)化，與大腦中高度互連的網(wǎng)絡(luò)非常不同。

深度學(xué)習(xí)網(wǎng)絡(luò)能否像大腦一樣對(duì)刺激做出反應(yīng)?

即使在視覺(jué)信息的第一個(gè)皮層處理階段，在視覺(jué)皮層中，攜帶著眼睛輸入信息的連接仍然是所有連接中很小的一部分，在大腦內(nèi)部的差別甚至更大。大部分神經(jīng)活動(dòng)是各個(gè)大腦區(qū)域之間持續(xù)的交流互動(dòng)，感覺(jué)輸入有時(shí)似乎只在這種內(nèi)部活動(dòng)中起到調(diào)節(jié)作用。這與你在深度神經(jīng)網(wǎng)絡(luò)中見(jiàn)到的情況非常不同，后者的神經(jīng)元基本上只有在提供輸入時(shí)才會(huì)被激活。因此，無(wú)論是在解剖結(jié)構(gòu)還是功能特性方面，大腦的運(yùn)作方式似乎都與深度神經(jīng)網(wǎng)絡(luò)非常不同。真正的只能與所謂“人工智能”之間仍然有相當(dāng)大的差距。