作者|于玲
2022世界人工智能大會(huì)期間,亞信科技首席科學(xué)家葉曉舟在亞信科技和清華大學(xué)智能產(chǎn)業(yè)研究院主辦的“智能算網(wǎng)與綠色計(jì)算”論壇上指出,新型算力將是數(shù)字經(jīng)濟(jì)時(shí)代新的生產(chǎn)力,是支撐千行百業(yè)數(shù)字經(jīng)濟(jì)發(fā)展的堅(jiān)實(shí)基礎(chǔ)。
葉曉舟以算力網(wǎng)絡(luò)的第一個(gè)十年為題。他談到,現(xiàn)代計(jì)算和通信系統(tǒng)已經(jīng)逼近了摩爾定律和香農(nóng)定理的極限。在計(jì)算方面,人們通過(guò)多核、眾核的方式來(lái)突破摩爾定律與物理規(guī)律的相互作用;在單通道通信系統(tǒng)已經(jīng)無(wú)線接近香農(nóng)極限的條件下,人們通過(guò)多通道的方式來(lái)實(shí)現(xiàn)通信系統(tǒng)容量的倍增,甚至通過(guò)更高層次的語(yǔ)義通信來(lái)突破信息傳輸?shù)蔫滂簟?/p>
葉曉舟指出,已經(jīng)八十年的馮諾依曼體系結(jié)構(gòu)推動(dòng)了計(jì)算機(jī)的大發(fā)展,但在面向數(shù)據(jù)處理時(shí)存在瓶頸,新的存算一體技術(shù)在保障數(shù)據(jù)處理效率的同時(shí)也提高了計(jì)算效率;五十年的TCP/IP是以主機(jī)為中心,推動(dòng)了互聯(lián)網(wǎng)的浪潮,在數(shù)字時(shí)代,我們更期待一個(gè)以計(jì)算為中心的新網(wǎng)絡(luò)協(xié)議出現(xiàn)。“我們認(rèn)為在以人工智能、元宇宙等密集計(jì)算應(yīng)用為代表的數(shù)字時(shí)代,計(jì)算機(jī)網(wǎng)絡(luò)與通信將回歸本質(zhì),由“信息的傳遞系統(tǒng)”進(jìn)化為無(wú)處不在的“計(jì)算服務(wù)系統(tǒng)”。”
基于此,葉曉舟提出我們需要“新型算力”,新型算力由算力、運(yùn)力、存力和原力構(gòu)成。傳統(tǒng)“算力”是指CPU通用算力、GPU智能算力、超算算力等,“運(yùn)力”是指網(wǎng)絡(luò)資源和網(wǎng)絡(luò)質(zhì)量和網(wǎng)絡(luò)性能指標(biāo)等所刻畫網(wǎng)絡(luò)傳輸能力,“存力”是指網(wǎng)絡(luò)的存儲(chǔ)規(guī)模、IO、效能等存儲(chǔ)能力,“原力”是指大數(shù)據(jù)時(shí)代的AI、數(shù)字孿生、區(qū)塊鏈、PaaS等基礎(chǔ)支撐能力和原始驅(qū)動(dòng)力。
2022年是算網(wǎng)的元年,整個(gè)產(chǎn)業(yè)界都在關(guān)注如何構(gòu)建算力網(wǎng)絡(luò)。葉曉舟表示,算力網(wǎng)絡(luò)分為三大組成部分:
一、搭建算網(wǎng)的基礎(chǔ)設(shè)施,要構(gòu)建云邊協(xié)同、布局合理、架構(gòu)先進(jìn)的算力基礎(chǔ)設(shè)施,通過(guò)SRv6、確定性網(wǎng)絡(luò)、新型協(xié)議等實(shí)現(xiàn)網(wǎng)絡(luò)對(duì)算力的感知、承載與調(diào)度。
二、搭建算網(wǎng)大腦,算網(wǎng)大腦基于通信人工智能、數(shù)字孿生技術(shù),實(shí)現(xiàn)對(duì)算網(wǎng)的統(tǒng)一感知、智能決策、編排、調(diào)度,是算力網(wǎng)絡(luò)的核心。算網(wǎng)引擎則是算網(wǎng)大腦的決策中樞,要在算網(wǎng)全局圖譜下,實(shí)現(xiàn)算網(wǎng)目標(biāo)SLA與算網(wǎng)資源組合的聯(lián)合最優(yōu)解。
三、搭建算網(wǎng)運(yùn)營(yíng)交易中心,支撐算網(wǎng)業(yè)務(wù)管理、成本分析、競(jìng)價(jià)排名、算網(wǎng)通證和算力運(yùn)營(yíng)。這里的關(guān)鍵技術(shù)是要基于區(qū)塊鏈的技術(shù),實(shí)現(xiàn)算網(wǎng)交易撮合、全程溯源,吸納和構(gòu)建多方可信算網(wǎng)交易平臺(tái)。
要搭建完善的算力網(wǎng)絡(luò),絕不是一蹴而就,需要長(zhǎng)期耕耘。葉曉舟也提出了對(duì)算力網(wǎng)絡(luò)演進(jìn)的思考。他說(shuō),算力網(wǎng)絡(luò)第一個(gè)十年的演進(jìn)會(huì)經(jīng)歷三個(gè)階段:
第一個(gè)階段是算網(wǎng)協(xié)同階段,到2022年底,可以通過(guò)算力和網(wǎng)絡(luò)的分別調(diào)度及協(xié)同,實(shí)現(xiàn)兩者的協(xié)同編排和調(diào)度管理。
第二個(gè)階段是到2025年實(shí)現(xiàn)算力網(wǎng)絡(luò)的統(tǒng)一調(diào)度和管理,這就需要算網(wǎng)的智能引擎,能夠自動(dòng)化實(shí)現(xiàn)算網(wǎng)的資源編排和調(diào)度。同時(shí),我們?cè)谶@個(gè)階段要構(gòu)建一個(gè)可信的交易平臺(tái)來(lái)實(shí)現(xiàn)算和網(wǎng)的融合。
第三個(gè)階段是到2030年,我們可預(yù)期實(shí)現(xiàn)算網(wǎng)的一體,真正實(shí)現(xiàn)算即是網(wǎng)、網(wǎng)即是算。在這個(gè)階段,基于數(shù)字孿生可以實(shí)現(xiàn)算網(wǎng)自治,以及通過(guò)建立合理運(yùn)營(yíng)交易市場(chǎng),可以實(shí)現(xiàn)整個(gè)異構(gòu)的算力和異構(gòu)的網(wǎng)絡(luò),接入到算網(wǎng)一體的體系中來(lái)。
在2022年之前,我們更多的是在進(jìn)行算力網(wǎng)絡(luò)的場(chǎng)景和需求的標(biāo)準(zhǔn)化工作,到2025年可以完成架構(gòu)模塊的定義、完成算網(wǎng)模塊的接口和定義,到2030年實(shí)現(xiàn)算網(wǎng)一體的下一代標(biāo)準(zhǔn)體系的演進(jìn)。
“算力網(wǎng)絡(luò)作為6G關(guān)鍵核心技術(shù),到2030年希望算力網(wǎng)絡(luò)能夠順利實(shí)現(xiàn)6G的商用。”葉曉舟說(shuō),“在此期間,亞信科技非常愿意配合和支持運(yùn)營(yíng)商、合作伙伴、客戶的算力網(wǎng)絡(luò)建設(shè),產(chǎn)學(xué)研用一體加速推動(dòng)算力網(wǎng)絡(luò)的商用落地。”
好文章,需要你的鼓勵(lì)
新加坡國(guó)立大學(xué)研究團(tuán)隊(duì)開(kāi)發(fā)了SPIRAL框架,通過(guò)讓AI與自己對(duì)弈零和游戲來(lái)提升推理能力。實(shí)驗(yàn)顯示,僅訓(xùn)練AI玩簡(jiǎn)單撲克游戲就能讓其數(shù)學(xué)推理能力提升8.6%,通用推理提升8.4%,且無(wú)需任何數(shù)學(xué)題目作為訓(xùn)練材料。研究發(fā)現(xiàn)游戲中的三種推理模式能成功轉(zhuǎn)移到數(shù)學(xué)解題中,為AI訓(xùn)練提供了新思路。
同濟(jì)大學(xué)團(tuán)隊(duì)開(kāi)發(fā)的GIGA-ToF技術(shù)通過(guò)融合多幀圖像的"圖結(jié)構(gòu)"信息,創(chuàng)新性地解決了3D相機(jī)噪聲問(wèn)題。該技術(shù)利用圖像間的不變幾何關(guān)系,結(jié)合深度學(xué)習(xí)和數(shù)學(xué)優(yōu)化方法,在合成數(shù)據(jù)集上實(shí)現(xiàn)37.9%的精度提升,并在真實(shí)設(shè)備上展現(xiàn)出色泛化能力,為機(jī)器人、AR和自動(dòng)駕駛等領(lǐng)域提供更可靠的3D視覺(jué)解決方案。
伊利諾伊大學(xué)研究團(tuán)隊(duì)通過(guò)對(duì)比實(shí)驗(yàn)發(fā)現(xiàn),經(jīng)過(guò)強(qiáng)化學(xué)習(xí)訓(xùn)練的視覺(jué)語(yǔ)言模型雖然表現(xiàn)出"頓悟時(shí)刻"現(xiàn)象,但這些自我糾錯(cuò)行為并不能實(shí)際提升推理準(zhǔn)確率。研究揭示了AI模型存在"生成-驗(yàn)證差距",即生成答案的能力強(qiáng)于驗(yàn)證答案質(zhì)量的能力,且模型在自我驗(yàn)證時(shí)無(wú)法有效利用視覺(jué)信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機(jī)構(gòu)聯(lián)合提出SparseLoRA技術(shù),通過(guò)動(dòng)態(tài)稀疏性實(shí)現(xiàn)大語(yǔ)言模型訓(xùn)練加速1.6倍,計(jì)算成本降低2.2倍。該方法使用SVD稀疏性估計(jì)器智能選擇重要計(jì)算部分,在保持模型性能的同時(shí)顯著提升訓(xùn)練效率,已在多個(gè)任務(wù)上驗(yàn)證有效性。