4月21日上午8時,隨著ASC組委會工作人員開始公布競賽規(guī)則,2014年ASC世界大學(xué)生超級計(jì)算機(jī)競賽(以下簡稱ASC14)總決賽在廣州中山大學(xué)正式拉開帷幕。16所高校隊(duì)伍將在接下來的5天時間內(nèi),完成3000W功耗限制下的超算系統(tǒng)設(shè)計(jì)搭建,HPL、Quantum Espresso、LICOM、SU2和神秘應(yīng)用的優(yōu)化,以及在全球最快超級計(jì)算機(jī)天河二號上進(jìn)行指定應(yīng)用3D-EW的并行擴(kuò)展和性能優(yōu)化,全英文競賽答辯等各項(xiàng)比賽任務(wù)。最終,各隊(duì)比賽成績將在4月25日舉行的閉幕式上一一揭曉。
總決賽的前兩天,16支隊(duì)伍需要在3000瓦功耗限制下根據(jù)組委會提供的浪潮超算節(jié)點(diǎn)、高速網(wǎng)絡(luò)等設(shè)備自行搭建超算系統(tǒng)。ASC組委會委員、浪潮集團(tuán)高性能總經(jīng)理劉軍認(rèn)為,該項(xiàng)賽題的挑戰(zhàn)在于要在預(yù)設(shè)條件下完成設(shè)計(jì)藍(lán)圖并付諸實(shí)現(xiàn),相當(dāng)于要求每支隊(duì)伍要身兼設(shè)計(jì)師和工程師兩種角色,“很多汽車設(shè)計(jì)師知道如何去設(shè)計(jì)一輛跑得很快的汽車,但這輛車究竟能不能跑、跑得有多快,還是需要生產(chǎn)出來后經(jīng)過實(shí)際檢驗(yàn)才知道,這個過程不僅是想法的驗(yàn)證,更是一個發(fā)現(xiàn)問題、解決問題的過程。對于參賽隊(duì)員來說,這能夠幫助他們加深對超算的了解,‘知其然也知其所以然’。”
參賽隊(duì)員正在組建自行設(shè)計(jì)的超算系統(tǒng)
無論是首次參賽的新秀還是經(jīng)驗(yàn)豐富的強(qiáng)隊(duì),高難度的ASC14競賽對于他們而言都是一場智慧的挑戰(zhàn)。首次帶隊(duì)來中國參賽的匈牙利密什科爾茨大學(xué)參賽隊(duì)指導(dǎo)老師David Vincze表示,這次參賽更多的是享受賽事本身所賦予的樂趣和成長價值。他認(rèn)為ASC14最大的挑戰(zhàn)在于3D-EW,這道試題的成績將直接關(guān)系到能否親身操作全球最快的超級計(jì)算機(jī)天河二號,這對每一位隊(duì)員來說都將是畢生難忘的寶貴經(jīng)歷。而對于在24日才會公布的神秘應(yīng)用,David Vincze則持有一種摻雜了緊張、興奮和期待的復(fù)雜情緒。
而作為兩屆ASC大賽和鹽湖城SC大賽的親歷者,臺灣清華大學(xué)參賽隊(duì)的指導(dǎo)老師周志遠(yuǎn)則認(rèn)為如果超級計(jì)算機(jī)看作一個人,那么硬件是他的身體,而程式則是他的頭腦,二者必須協(xié)調(diào)一致才能發(fā)揮出最大的潛力。ASC比SC更加強(qiáng)調(diào)程式的編譯和優(yōu)化,而不是簡單的程式安裝和運(yùn)行,這更加觸及超算的核心,代表著超算未來的發(fā)展趨勢。
事實(shí)上,構(gòu)筑超算“軟實(shí)力”已經(jīng)成為世界各國的普遍共識,而應(yīng)用發(fā)展作為其中的關(guān)鍵環(huán)節(jié)也得到高度重視。根據(jù)記者在現(xiàn)場的了解,16強(qiáng)參賽隊(duì)所在的國家都非常重視在超算方面的應(yīng)用和人才培養(yǎng),通過參加ASC超算競賽,這些高校的隊(duì)員可以得到一個全面參與超算“全過程”的機(jī)會,從根本上豐富他們對超算的認(rèn)知和理解。在接下來的競賽中,ASC14總決賽的16強(qiáng)將用各自親手搭建的超算系統(tǒng)編譯和優(yōu)化6大超算應(yīng)用。即將展開的“軟實(shí)力”較量,將成為首個超算大賽世界冠軍的“勝負(fù)手”。
好文章,需要你的鼓勵
新加坡國立大學(xué)研究團(tuán)隊(duì)開發(fā)了SPIRAL框架,通過讓AI與自己對弈零和游戲來提升推理能力。實(shí)驗(yàn)顯示,僅訓(xùn)練AI玩簡單撲克游戲就能讓其數(shù)學(xué)推理能力提升8.6%,通用推理提升8.4%,且無需任何數(shù)學(xué)題目作為訓(xùn)練材料。研究發(fā)現(xiàn)游戲中的三種推理模式能成功轉(zhuǎn)移到數(shù)學(xué)解題中,為AI訓(xùn)練提供了新思路。
同濟(jì)大學(xué)團(tuán)隊(duì)開發(fā)的GIGA-ToF技術(shù)通過融合多幀圖像的"圖結(jié)構(gòu)"信息,創(chuàng)新性地解決了3D相機(jī)噪聲問題。該技術(shù)利用圖像間的不變幾何關(guān)系,結(jié)合深度學(xué)習(xí)和數(shù)學(xué)優(yōu)化方法,在合成數(shù)據(jù)集上實(shí)現(xiàn)37.9%的精度提升,并在真實(shí)設(shè)備上展現(xiàn)出色泛化能力,為機(jī)器人、AR和自動駕駛等領(lǐng)域提供更可靠的3D視覺解決方案。
伊利諾伊大學(xué)研究團(tuán)隊(duì)通過對比實(shí)驗(yàn)發(fā)現(xiàn),經(jīng)過強(qiáng)化學(xué)習(xí)訓(xùn)練的視覺語言模型雖然表現(xiàn)出"頓悟時刻"現(xiàn)象,但這些自我糾錯行為并不能實(shí)際提升推理準(zhǔn)確率。研究揭示了AI模型存在"生成-驗(yàn)證差距",即生成答案的能力強(qiáng)于驗(yàn)證答案質(zhì)量的能力,且模型在自我驗(yàn)證時無法有效利用視覺信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機(jī)構(gòu)聯(lián)合提出SparseLoRA技術(shù),通過動態(tài)稀疏性實(shí)現(xiàn)大語言模型訓(xùn)練加速1.6倍,計(jì)算成本降低2.2倍。該方法使用SVD稀疏性估計(jì)器智能選擇重要計(jì)算部分,在保持模型性能的同時顯著提升訓(xùn)練效率,已在多個任務(wù)上驗(yàn)證有效性。