下周一,兩年一度的美國超級計算大會即將開幕。
在此次大會開幕前夕,IBM與美國能源部周五達成一項價值為3.25億美元合作協(xié)議:未來IBM將為美政府機構制造兩款名為“Sierra”和“Summit”的超級計算機。
據(jù)悉,IBM所制造的“Sierra”和“Summit”超級計算機,將采用新的超級計算方法,同時搭載Nvidia公司處理加速器,并運行于Mellanox公司提供的高速網(wǎng)絡。
美國超級計算大會所關注的高端系統(tǒng),占地十分龐大——有些系統(tǒng)占地跟籃球場大小一樣,這些設備通常被美國政府機構用于汽車空氣動力學研究,檢測飛機設計機構弱點,以及預測新藥物性能等等。
據(jù)悉,由IBM制造的這兩臺巨型計算機,一臺將用于民用領域,部署在田納西州的橡樹嶺國家實驗室;另一臺則用于國家核武器模式測試,部署在加州勞倫斯利弗莫爾國家實驗室。Nvidia估測,如果這些設備的計算工作量由人工操作,需要300萬人同時在筆記本電腦使展開。
好文章,需要你的鼓勵
新加坡國立大學研究團隊開發(fā)了SPIRAL框架,通過讓AI與自己對弈零和游戲來提升推理能力。實驗顯示,僅訓練AI玩簡單撲克游戲就能讓其數(shù)學推理能力提升8.6%,通用推理提升8.4%,且無需任何數(shù)學題目作為訓練材料。研究發(fā)現(xiàn)游戲中的三種推理模式能成功轉移到數(shù)學解題中,為AI訓練提供了新思路。
同濟大學團隊開發(fā)的GIGA-ToF技術通過融合多幀圖像的"圖結構"信息,創(chuàng)新性地解決了3D相機噪聲問題。該技術利用圖像間的不變幾何關系,結合深度學習和數(shù)學優(yōu)化方法,在合成數(shù)據(jù)集上實現(xiàn)37.9%的精度提升,并在真實設備上展現(xiàn)出色泛化能力,為機器人、AR和自動駕駛等領域提供更可靠的3D視覺解決方案。
伊利諾伊大學研究團隊通過對比實驗發(fā)現(xiàn),經(jīng)過強化學習訓練的視覺語言模型雖然表現(xiàn)出"頓悟時刻"現(xiàn)象,但這些自我糾錯行為并不能實際提升推理準確率。研究揭示了AI模型存在"生成-驗證差距",即生成答案的能力強于驗證答案質量的能力,且模型在自我驗證時無法有效利用視覺信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機構聯(lián)合提出SparseLoRA技術,通過動態(tài)稀疏性實現(xiàn)大語言模型訓練加速1.6倍,計算成本降低2.2倍。該方法使用SVD稀疏性估計器智能選擇重要計算部分,在保持模型性能的同時顯著提升訓練效率,已在多個任務上驗證有效性。