7月15日,阿里云宣布推出第三代神龍云服務(wù)器,與上一代相比,第三代神龍云服務(wù)器的綜合性能提升高達(dá)160%。
第三代神龍云服務(wù)器產(chǎn)品家族提供了最多208核、最大6TB內(nèi)存,云盤IOPS高達(dá) 100萬、網(wǎng)絡(luò)轉(zhuǎn)發(fā)高達(dá)2400萬、網(wǎng)絡(luò)帶寬高達(dá)100G,均為全球最高性能水平,支持CPU、GPU、NPU、FPGA等多種計算形態(tài),具備3分鐘交付50萬核vCPU的極速擴(kuò)容能力,是云原生的最佳載體。
按照這些數(shù)據(jù)現(xiàn)實(shí),神龍云服務(wù)器的計算性能增長,突破了摩爾定律的極限。
對此,阿里云彈性計算負(fù)責(zé)人張獻(xiàn)濤表示,原來都是是芯片廠商、硬件廠商去做自己的硬件、芯片方面的一些迭代,軟件做軟件的迭代,大家很少坐在一起來共同去研究和優(yōu)化接口,因?yàn)榻涌诒旧矶际菢?biāo)準(zhǔn)化的。 雖然標(biāo)準(zhǔn)化有標(biāo)準(zhǔn)化的好處,但是標(biāo)準(zhǔn)化沒有辦法把軟件、硬件、芯片這些方面的深層次的能力給挖出來,所以,阿里云從2016、2017年開始,決定自己研發(fā)神龍服務(wù)器。
阿里云彈性計算負(fù)責(zé)人張獻(xiàn)濤展示神龍云服務(wù)器核心組件
“通過軟硬一體化的重新設(shè)計,可以帶來的性能的提升,是超越摩爾定律的,不再是按部就班的算力提升,因?yàn)槟柖杀旧碛幸粋€業(yè)界發(fā)展的規(guī)律在左右著。”
基于最新款云服務(wù)器的阿里云第六代增強(qiáng)型實(shí)例,全系搭配ESSD系列云盤,存儲轉(zhuǎn)發(fā)能力最多提升四倍;支持10Gbps突發(fā)內(nèi)網(wǎng)帶寬,單卷延時大幅下降;性能等級按需配置,在線無損變配;同時ESSD使用門檻大幅下降50%。Mysql和Redis性能提升超過15%,Nginx性能提升達(dá)100%。配合Alibaba Cloud Linux 2 LTS,啟動速度最多提升60%、運(yùn)行時性能最多提升30%、穩(wěn)定性最多提升50%。
此外,阿里云ECS的單實(shí)例穩(wěn)定性從原來的99.95%提升到99.975%,跨AZ多實(shí)例穩(wěn)定性從原來的99.99%提升到99.995%,均為全球最高水準(zhǔn)。
過去十年,阿里云的存儲性能提升了2000倍,網(wǎng)絡(luò)性能提升了500倍,整體算力以平均每12個月翻一番的速度增長,向摩爾定律的極限發(fā)起挑戰(zhàn)。
從最早單一的通用計算,到推出異構(gòu)計算與高性能計算產(chǎn)品,再到今天的一系列新品,阿里云彈性計算已覆蓋互聯(lián)網(wǎng)、金融、零售等行業(yè)近300種場景,支撐了各種流量高峰:如12306的春運(yùn)搶票、微博熱點(diǎn)的暴漲流量、釘釘2小時擴(kuò)容10萬臺云服務(wù)器等。
“隨著云計算往縱深方向發(fā)展,軟硬一體和云原生將成為云計算技術(shù)架構(gòu)的主流。” 張獻(xiàn)濤表示,“未來3-5年內(nèi),容器在IT架構(gòu)里面占比將達(dá)到一半以上,云原生需要我們將虛擬化推向極致,實(shí)現(xiàn)更極致的啟動速度、并發(fā)能力、部署密度等。”
好文章,需要你的鼓勵
新加坡國立大學(xué)研究團(tuán)隊開發(fā)了SPIRAL框架,通過讓AI與自己對弈零和游戲來提升推理能力。實(shí)驗(yàn)顯示,僅訓(xùn)練AI玩簡單撲克游戲就能讓其數(shù)學(xué)推理能力提升8.6%,通用推理提升8.4%,且無需任何數(shù)學(xué)題目作為訓(xùn)練材料。研究發(fā)現(xiàn)游戲中的三種推理模式能成功轉(zhuǎn)移到數(shù)學(xué)解題中,為AI訓(xùn)練提供了新思路。
同濟(jì)大學(xué)團(tuán)隊開發(fā)的GIGA-ToF技術(shù)通過融合多幀圖像的"圖結(jié)構(gòu)"信息,創(chuàng)新性地解決了3D相機(jī)噪聲問題。該技術(shù)利用圖像間的不變幾何關(guān)系,結(jié)合深度學(xué)習(xí)和數(shù)學(xué)優(yōu)化方法,在合成數(shù)據(jù)集上實(shí)現(xiàn)37.9%的精度提升,并在真實(shí)設(shè)備上展現(xiàn)出色泛化能力,為機(jī)器人、AR和自動駕駛等領(lǐng)域提供更可靠的3D視覺解決方案。
伊利諾伊大學(xué)研究團(tuán)隊通過對比實(shí)驗(yàn)發(fā)現(xiàn),經(jīng)過強(qiáng)化學(xué)習(xí)訓(xùn)練的視覺語言模型雖然表現(xiàn)出"頓悟時刻"現(xiàn)象,但這些自我糾錯行為并不能實(shí)際提升推理準(zhǔn)確率。研究揭示了AI模型存在"生成-驗(yàn)證差距",即生成答案的能力強(qiáng)于驗(yàn)證答案質(zhì)量的能力,且模型在自我驗(yàn)證時無法有效利用視覺信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機(jī)構(gòu)聯(lián)合提出SparseLoRA技術(shù),通過動態(tài)稀疏性實(shí)現(xiàn)大語言模型訓(xùn)練加速1.6倍,計算成本降低2.2倍。該方法使用SVD稀疏性估計器智能選擇重要計算部分,在保持模型性能的同時顯著提升訓(xùn)練效率,已在多個任務(wù)上驗(yàn)證有效性。