科技行者 10月14日 北京消息:我們可以在嘈雜的房間里,不受干擾地進(jìn)行對(duì)話;我們也能夠在雜亂無(wú)章的辦公桌上,找到自己的鑰匙串;也能在驅(qū)車前行時(shí),快速發(fā)現(xiàn)路面跑過(guò)的小動(dòng)物——總之,即使面對(duì)大量混亂而復(fù)雜的信息,我們?nèi)匀荒軌驅(qū)W⒂谡嬲匾氖虑椴⒖焖僮鞒龇磻?yīng)。
有沒(méi)有想過(guò),根源是什么?
人類集中注意力的過(guò)程,實(shí)際就是大腦“探照燈”在關(guān)注「相關(guān)刺激」的同時(shí)過(guò)濾掉「其余刺激」的過(guò)程,而神經(jīng)科學(xué)家們一直希望找出答案,大腦究竟哪些回路在具體控制聚焦與集中反應(yīng),然而數(shù)十年來(lái),他們的研究一直圍繞著大腦皮層部分——即大腦外部的折疊結(jié)構(gòu),其通常與智能以及高級(jí)認(rèn)知能力相關(guān)。很明顯,大腦皮層的活動(dòng)促進(jìn)了感官處理能力,從而增強(qiáng)了人們對(duì)所關(guān)注對(duì)象的跟蹤效果。
但現(xiàn)在,一些研究人員正在嘗試另一種方法,希望了解大腦如何擬制信息——而非增強(qiáng)信息。也許更重要的是,他們發(fā)現(xiàn),大腦深處某些更古老的區(qū)域可能才是實(shí)現(xiàn)集中能力的關(guān)鍵——這是以往的研究一直沒(méi)有重視的探索方向。
通過(guò)這種方式,科學(xué)家們也在無(wú)意中獲得了一定進(jìn)展,開始真正了解到,身體與思想如何通過(guò)感官體驗(yàn)、肢體運(yùn)動(dòng)以及更高層次的意識(shí)以深刻且密不可分的方式交織在一起。
很長(zhǎng)一段時(shí)間以來(lái),由于注意力似乎一直與意識(shí)以及其他復(fù)雜的功能緊密聯(lián)系,因此科學(xué)家們首先將其假定為大腦皮層中的活動(dòng)。1984年,F(xiàn)rancis Crick提出,這種理解方式可能完全背離了實(shí)際情況。他認(rèn)為,注意力集中是由于大腦深處被稱為丘腦的區(qū)域所控制,該區(qū)域的一部分負(fù)責(zé)接收來(lái)自感覺區(qū)域的信號(hào)并向皮質(zhì)提供信息。他提出一種理論——丘腦不僅充當(dāng)中繼站,同時(shí)也扮演著守門人的角色(不只是通道,而且是種篩子)。它會(huì)阻斷某些數(shù)據(jù)流,從而讓其它正常通過(guò)的信息成為關(guān)注重點(diǎn)。
但幾十年過(guò)去,人們一直無(wú)法真正建立起具有說(shuō)服力的功能機(jī)制體系——這是因?yàn)?,?duì)實(shí)驗(yàn)動(dòng)物的注意力進(jìn)行研究始終困難重重。
但這并沒(méi)有嚇退Michael Halassa,這位來(lái)自麻省理工學(xué)院麥戈文腦科學(xué)研究所的神經(jīng)科學(xué)家,希望確定信息在到達(dá)大腦皮層之前,究竟經(jīng)過(guò)了怎樣的過(guò)濾過(guò)程。只要能夠確定這一點(diǎn),他就可以建立起Crick理論中暗示的精確腦回路結(jié)構(gòu)。
▲ 圖:麻省理工學(xué)院神經(jīng)科學(xué)家Michael Halassa探討了以往被忽視的大腦區(qū)域在高級(jí)認(rèn)知過(guò)程中發(fā)揮的作用。
他首先注意到,一層被稱為丘腦網(wǎng)狀核(TRN)的抵制性神經(jīng)元,該層像殼一樣包裹著丘腦的其余部分。在Halassa成為博士后研究員時(shí),他已經(jīng)在大腦區(qū)域中發(fā)現(xiàn)了一種粗略的門控機(jī)制:TRN似乎可以讓動(dòng)物在清醒時(shí)關(guān)注感覺輸入,并注意到周邊環(huán)境中的某些事物,但當(dāng)動(dòng)物進(jìn)入睡眠狀態(tài)后,TRN又會(huì)抑制其對(duì)這些感受的感知與反應(yīng)。
2015年,Halassa和他的同事們發(fā)現(xiàn)了另一種更精細(xì)的門控機(jī)制,這進(jìn)一步將TRN與Crick理論的長(zhǎng)期證明聯(lián)系了起來(lái)。此次成果的重點(diǎn)在于,動(dòng)物如何主動(dòng)將注意力集中在不同的感受身上?研究人員首先讓經(jīng)過(guò)訓(xùn)練的小鼠學(xué)會(huì)在閃爍的燈光與純音聲調(diào)下奔跑,接下來(lái),他們利用燈光與聲調(diào)向動(dòng)物下達(dá)了相互矛盾的命令,并以暗示的方式引導(dǎo)動(dòng)物忽略其中一種信號(hào),而老鼠的反應(yīng)即代表它們完成注意力集中切換的效率。在整個(gè)過(guò)程中,研究人員利用完善的技術(shù)關(guān)閉大腦中各個(gè)區(qū)域的活動(dòng),從而去觀察,到底是什么左右著動(dòng)物的行為。
與預(yù)期相符,向大腦其他部位發(fā)出高級(jí)指令的「前額葉皮層」仍然至關(guān)重要。但是研究小組也觀察到,如果在試驗(yàn)室要求小鼠關(guān)注視覺元素,那么視覺TRN就會(huì)開啟神經(jīng)元以干擾聽覺活動(dòng)。當(dāng)聽覺神經(jīng)元被屏蔽后,小鼠將很難注意到聲音方面的變化。實(shí)際上,大腦回路調(diào)整的實(shí)際是抑制過(guò)程,而非興奮過(guò)程,其中TRN負(fù)責(zé)抑制前額葉皮層不想關(guān)注的信息。如果老鼠需要區(qū)分聽覺信息的優(yōu)先級(jí),那么前額葉皮質(zhì)會(huì)指揮視覺TRN,增強(qiáng)其抑制視覺丘腦的活動(dòng)——剝離無(wú)關(guān)的視覺數(shù)據(jù)。
事實(shí)證明,所謂集中注意力的真實(shí)過(guò)程恰恰相反:大腦并沒(méi)有聚焦至需要關(guān)注的刺激,而是降低了對(duì)其他信息的關(guān)注度。
盡管研究取得了成功,但研究人員們又發(fā)現(xiàn)了一個(gè)新問(wèn)題。他們確實(shí)證明了Crick的直覺:前額葉皮層控制著對(duì)丘腦所傳入感知信息的過(guò)濾機(jī)制。但是,前額葉皮層與TRN的感知部分并沒(méi)有任何直接連接,那么過(guò)濾究竟是如何實(shí)現(xiàn)的?
但現(xiàn)在,Halassa和他的同事們找到了這塊拼圖的缺失,研究結(jié)果讓我們找到了新的注意力研究方向。
研究小組采用了與2015年類似的實(shí)驗(yàn)方式,研究了各個(gè)大腦區(qū)域彼此之間的功能影響,及其神經(jīng)元的連接方式。他們發(fā)現(xiàn),腦回路從前額葉皮層接入更深層的基底神經(jīng)節(jié)(通常與運(yùn)動(dòng)控制等其他功能相關(guān)),而后進(jìn)一步接入TRN與丘腦,最后又返回更高層級(jí)的皮質(zhì)區(qū)域。例如,當(dāng)視覺信息從眼睛傳遞至視覺丘腦時(shí),如果這部分內(nèi)容與當(dāng)前關(guān)注任務(wù)無(wú)關(guān),則幾乎可以被立即攔截。基底神經(jīng)節(jié)能夠按照前額葉皮層的指示,快速介入并激活視覺TRN,從而過(guò)濾掉多余的信號(hào)刺激。
馬里蘭州國(guó)立衛(wèi)生研究院眼科研究所神經(jīng)科學(xué)家Richard Krauzlis表示,“這是一條有趣的反饋途徑,我之前從來(lái)沒(méi)有聽說(shuō)過(guò)。”
此外,研究人員們還發(fā)現(xiàn),該機(jī)制不僅能夠過(guò)濾掉一種感知以提高對(duì)另一種感知的感受能力,也能夠在同一種感知之內(nèi)過(guò)濾掉某些具體的信息。例如,當(dāng)小鼠想要認(rèn)真聆聽某一種聲音時(shí),TRN有助于抑制掉聽覺信號(hào)中與此無(wú)關(guān)的其他背景噪聲。羅徹斯特大學(xué)神經(jīng)科學(xué)家Duje Tadin表示,這對(duì)感知處理的影響“可能比針對(duì)某一種感知方式的丘腦區(qū)域抑制精確得多。相比之下,后者只是一種比較粗糙的控制方法”。
他補(bǔ)充道,“我們通常會(huì)忽略掉那些不太重要的信息,通常來(lái)講,我認(rèn)為這是一種更高效的信息處理方法。這就好比當(dāng)你身處嘈雜的房間,既可以提高想聽的聲音音量,也可以消除不想聽的聲音音量。”(Tadin研究了其他過(guò)程中的這種背景抑制作用,并發(fā)現(xiàn)這類過(guò)程比選擇性關(guān)注速度更快,且自動(dòng)程度更高。)
Halassa的發(fā)現(xiàn)表明,大腦過(guò)濾多余信號(hào)的時(shí)間點(diǎn)要比預(yù)期中早得多。普林斯頓大學(xué)認(rèn)知神經(jīng)科學(xué)家Ian Fiebelkorn表示,“有趣的是,過(guò)濾甚至在信息剛剛抵達(dá)視覺皮層時(shí)就已經(jīng)開始了。”
但是,大腦采取的這種感知信息過(guò)濾策略存在著明顯的弱點(diǎn):被忽略的感知信息中可能包含意料之外的重要內(nèi)容。Fiebelkorn的研究表明,大腦很清楚這種風(fēng)險(xiǎn),并為其準(zhǔn)備了對(duì)應(yīng)的解決方案。
Fiebelkorn解釋道,當(dāng)人們想到集中注意力時(shí),第一反應(yīng)總是將其理解成,把意念匯聚成穩(wěn)定的一束,并借此引導(dǎo)自己的認(rèn)知資源。但就現(xiàn)在來(lái)看,“我們的研究證明,這種想法并不靠譜。相反,這道「意念之光」似乎會(huì)不斷閃爍。”
根據(jù)他的發(fā)現(xiàn),注意力的集中性并不強(qiáng),每秒大約四次,以防止動(dòng)物過(guò)分關(guān)注環(huán)境中的某種單一對(duì)象或者刺激。大腦會(huì)非常短暫地抑制當(dāng)前關(guān)注對(duì)象,從而為其它刺激保留一點(diǎn)起效空間,并在必要時(shí)快速完成關(guān)注點(diǎn)切換。他解釋道,“大腦似乎會(huì)周期性地分散注意力。”
與Halassa的團(tuán)隊(duì)一樣,F(xiàn)iebelkorn和他的同事們也希望,通過(guò)皮層下的其他區(qū)域解釋這種連接機(jī)制。目前,他們?cè)谘芯壳鹉X中另一部分的作用,但后續(xù)也有計(jì)劃對(duì)基底神經(jīng)節(jié)進(jìn)行一番探索。
這些研究標(biāo)志著一種關(guān)鍵性的轉(zhuǎn)變:集中注意力的過(guò)程,曾經(jīng)被理解為純皮質(zhì)區(qū)域的活動(dòng)。但根據(jù)Krauzlis的說(shuō)法,過(guò)去五年,“人們逐漸意識(shí)到,皮質(zhì)之下才是注意力變化的根源位置。”
芝加哥大學(xué)神經(jīng)生物學(xué)家John Maunsell表示,“大多數(shù)人都覺得所有繁重的工作都是由大腦皮層完成的,但我認(rèn)為實(shí)際情況并非如此。”
▲ 圖:Michael Halassa主要關(guān)注多電極陣列上,他和他的同事們一直在探尋,大腦如何利用這種結(jié)構(gòu)控制負(fù)責(zé)信息過(guò)濾的神經(jīng)回路。
事實(shí)上,供職于麥戈文腦科學(xué)研究所的Michael Halassa發(fā)現(xiàn),基底神經(jīng)節(jié)在人腦關(guān)注活動(dòng)中有著令人著迷的神奇作用。基底神經(jīng)節(jié)是大腦中的一種古老區(qū)域,以往人們一直覺得它跟選擇性關(guān)注活動(dòng)毫無(wú)關(guān)系。Krauzlis表示,“魚也擁有基底神經(jīng)節(jié),或者說(shuō)新皮層,其最早能夠回溯到連下頜都沒(méi)有的七爪鰻。這些動(dòng)物擁有一種簡(jiǎn)單的基底神經(jīng)節(jié)形式,其中一些擁有相同的回路結(jié)構(gòu)。”魚的神經(jīng)回路也許能夠?yàn)槲覀兘议_腦部注意力機(jī)制的演變之謎。
Halassa認(rèn)為,注意力與基底神經(jīng)元之間的聯(lián)系,可能為注意力缺陷多動(dòng)障礙以及自閉癥等疾病找到可靠的解釋方式。這類病癥的常見表現(xiàn),就是對(duì)某些類型的輸入信息特別敏感。
但基底神經(jīng)節(jié)最有趣的事實(shí)之一,在于該結(jié)構(gòu)通常與運(yùn)動(dòng)控制有關(guān)。而且近期研究也發(fā)現(xiàn),基底神經(jīng)節(jié)確實(shí)與學(xué)習(xí)獎(jiǎng)勵(lì)、決策以及其他基于動(dòng)機(jī)的行為有所關(guān)聯(lián)。
隨著Halassa實(shí)驗(yàn)室研究成果的發(fā)布,如今基底神經(jīng)節(jié)的作用已經(jīng)正式擴(kuò)展至感知控制領(lǐng)域。Maunsell解釋道,這也凸顯出新的事實(shí),“注意力的本質(zhì)在于按照正確的順序進(jìn)行排序,以確保大腦不會(huì)被不應(yīng)分心的事物所干擾。從某種意義上講,這也與基底神經(jīng)節(jié)的運(yùn)動(dòng)結(jié)構(gòu)關(guān)聯(lián)有著和諧的邏輯關(guān)系。基底神經(jīng)節(jié)應(yīng)該負(fù)責(zé)決定下一步要做什么,而這也涉及下一步應(yīng)該把資源集中在什么身上。”
這與基于主動(dòng)推理過(guò)程的注意力(以及整體認(rèn)知水平)提升觀點(diǎn)同樣并行不悖。大腦會(huì)主動(dòng)從環(huán)境當(dāng)中提取信息,而后對(duì)觀察到的外部刺激做出反應(yīng)。反之亦然,身體通過(guò)運(yùn)動(dòng)——包括眨眼這類微小的活動(dòng)——對(duì)感知進(jìn)行引導(dǎo)。Fiebelkorn解釋道,感知與運(yùn)動(dòng)系統(tǒng)“并非彼此獨(dú)立,而是共同演進(jìn)。”因此,運(yùn)動(dòng)區(qū)域不僅有助于塑造輸出(表現(xiàn)為動(dòng)物的某種行為),同時(shí)也有助于調(diào)整輸入。Halassa的發(fā)現(xiàn),為這種主動(dòng)作用提供了更穩(wěn)固的理論基礎(chǔ)。
阿姆斯特丹大學(xué)認(rèn)知科學(xué)家Heleen Slagter指出,“感知服務(wù)于行動(dòng),因?yàn)槲覀冃枰紫日J(rèn)識(shí)世界,之后才能改變世界。我們通過(guò)動(dòng)作引導(dǎo)來(lái)學(xué)習(xí)如何感知周邊環(huán)境。”與皮層之間的高度互連結(jié)構(gòu)表明,即使在注意力機(jī)制之外,這些皮層下結(jié)構(gòu)在高級(jí)感知中的作用也比我們以往認(rèn)為的重要得多。
這反過(guò)來(lái)又能幫助我們探索「意識(shí)」的形成。意識(shí)是神經(jīng)科學(xué)當(dāng)中最難以捉摸的主題。Maunsell表示,正如Halassa等相關(guān)研究所得出的結(jié)論,“當(dāng)我們研究注意力與神經(jīng)之間的關(guān)聯(lián)時(shí),實(shí)際上也是在研究注意力感知的神經(jīng)相關(guān)性。此次發(fā)現(xiàn),有望成為大腦工作原理研究這一廣闊愿景中的重要組成部分。”
Slagter目前正在研究基底神經(jīng)節(jié)在意識(shí)當(dāng)中發(fā)揮的作用。她總結(jié)道,“我們不僅在操縱自己的身體,也通過(guò)自己的身體體驗(yàn)整個(gè)世界。大腦負(fù)責(zé)表達(dá)這個(gè)世界,以引導(dǎo)我們?cè)谄渲胁扇∮幸饬x的行動(dòng)。因此我認(rèn)為,有意識(shí)的體驗(yàn)必然與行動(dòng)緊密關(guān)聯(lián),”集中注意力就是其中的典型表現(xiàn)。“意識(shí),應(yīng)該以行動(dòng)為導(dǎo)向。”
好文章,需要你的鼓勵(lì)
新加坡國(guó)立大學(xué)研究團(tuán)隊(duì)開發(fā)了SPIRAL框架,通過(guò)讓AI與自己對(duì)弈零和游戲來(lái)提升推理能力。實(shí)驗(yàn)顯示,僅訓(xùn)練AI玩簡(jiǎn)單撲克游戲就能讓其數(shù)學(xué)推理能力提升8.6%,通用推理提升8.4%,且無(wú)需任何數(shù)學(xué)題目作為訓(xùn)練材料。研究發(fā)現(xiàn)游戲中的三種推理模式能成功轉(zhuǎn)移到數(shù)學(xué)解題中,為AI訓(xùn)練提供了新思路。
同濟(jì)大學(xué)團(tuán)隊(duì)開發(fā)的GIGA-ToF技術(shù)通過(guò)融合多幀圖像的"圖結(jié)構(gòu)"信息,創(chuàng)新性地解決了3D相機(jī)噪聲問(wèn)題。該技術(shù)利用圖像間的不變幾何關(guān)系,結(jié)合深度學(xué)習(xí)和數(shù)學(xué)優(yōu)化方法,在合成數(shù)據(jù)集上實(shí)現(xiàn)37.9%的精度提升,并在真實(shí)設(shè)備上展現(xiàn)出色泛化能力,為機(jī)器人、AR和自動(dòng)駕駛等領(lǐng)域提供更可靠的3D視覺解決方案。
伊利諾伊大學(xué)研究團(tuán)隊(duì)通過(guò)對(duì)比實(shí)驗(yàn)發(fā)現(xiàn),經(jīng)過(guò)強(qiáng)化學(xué)習(xí)訓(xùn)練的視覺語(yǔ)言模型雖然表現(xiàn)出"頓悟時(shí)刻"現(xiàn)象,但這些自我糾錯(cuò)行為并不能實(shí)際提升推理準(zhǔn)確率。研究揭示了AI模型存在"生成-驗(yàn)證差距",即生成答案的能力強(qiáng)于驗(yàn)證答案質(zhì)量的能力,且模型在自我驗(yàn)證時(shí)無(wú)法有效利用視覺信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機(jī)構(gòu)聯(lián)合提出SparseLoRA技術(shù),通過(guò)動(dòng)態(tài)稀疏性實(shí)現(xiàn)大語(yǔ)言模型訓(xùn)練加速1.6倍,計(jì)算成本降低2.2倍。該方法使用SVD稀疏性估計(jì)器智能選擇重要計(jì)算部分,在保持模型性能的同時(shí)顯著提升訓(xùn)練效率,已在多個(gè)任務(wù)上驗(yàn)證有效性。