近日,數(shù)人云聯(lián)合清華大學(xué)交叉信息研究院開(kāi)放計(jì)算項(xiàng)目實(shí)驗(yàn)室(OCP實(shí)驗(yàn)室)完成“百萬(wàn)并發(fā)”壓力測(cè)試,數(shù)人云DCOS通過(guò)10臺(tái)OCP服務(wù)器成功承載了百萬(wàn)并發(fā)HTTP請(qǐng)求,這一技術(shù)突破將有效幫助企業(yè)解決高并發(fā)流量帶來(lái)的業(yè)務(wù)瓶頸。
2015年6月,F(xiàn)acebook資助清華大學(xué)交叉信息研究院,成立中國(guó)唯一的一家OCP實(shí)驗(yàn)室,自2015年9月開(kāi)始,數(shù)人云和清華大學(xué)交叉信息研究院助理院長(zhǎng)徐葳博士合作在OCP實(shí)驗(yàn)室開(kāi)展數(shù)據(jù)中心方面的相關(guān)研究工作。數(shù)人云在數(shù)十臺(tái)OCP服務(wù)器上部署了數(shù)人云DCOS,并進(jìn)行了廣泛的性能測(cè)試。
數(shù)人云認(rèn)為,云計(jì)算整體的彈性實(shí)現(xiàn)需要通過(guò)IaaS的資源彈性加上PaaS的應(yīng)用彈性,再加上頂層SaaS的服務(wù)彈性。專(zhuān)注于PaaS層的數(shù)人云在分布式框架下,將各種應(yīng)用封裝在Docker容器里,通過(guò)打造輕量級(jí)的PaaS實(shí)現(xiàn)極致的應(yīng)用彈性。數(shù)人云DCOS為數(shù)據(jù)中心提供了一套統(tǒng)一的管理應(yīng)用和資源的方法,極大地簡(jiǎn)化了開(kāi)發(fā)和運(yùn)維的復(fù)雜度,為應(yīng)用提供良好彈性的同時(shí),顯著提高資源利用率。
數(shù)人云DCOS為數(shù)據(jù)中心提供了開(kāi)源的應(yīng)用管理和資源管理解決方案,它可部署在公有云、私有云以及混合云上,幫助用戶在云端快速建立并穩(wěn)定運(yùn)維一個(gè)高性能生產(chǎn)環(huán)境。作為業(yè)內(nèi)最輕量級(jí)的PaaS平臺(tái),數(shù)人云DCOS向下將底層服務(wù)器資源統(tǒng)一管理成一個(gè)資源池,向上承載用戶的應(yīng)用,幫助用戶快速整合不同環(huán)境下的計(jì)算資源,部署海量應(yīng)用。基于領(lǐng)先的Mesos和Docker技術(shù),數(shù)人云DCOS為用戶的業(yè)務(wù)系統(tǒng)帶來(lái)高可用的服務(wù)質(zhì)量,高效的資源利用以及便捷的可視化管理和監(jiān)控,同時(shí),數(shù)人云DCOS還可以保證用戶的計(jì)算資源和數(shù)據(jù)完全為用戶私有可控。
數(shù)人云創(chuàng)始人兼CEO王璞展示了數(shù)人云DCOS在OCP服務(wù)器上做百萬(wàn)并發(fā)壓力測(cè)試的性能狀況,數(shù)人云DCOS提供了整個(gè)壓測(cè)環(huán)境的安裝部署和運(yùn)行,包括壓測(cè)工具Tsung、負(fù)載均衡器HAProxy、Web服務(wù)器NginX等等。數(shù)人云DCOS把壓測(cè)環(huán)境涉及的所有程序都封裝在Docker容器里,管理調(diào)度整個(gè)壓測(cè)環(huán)境運(yùn)行的數(shù)千個(gè)Docker實(shí)例。
數(shù)人云DCOS在數(shù)十臺(tái)OCP服務(wù)器上部署Tsung,模擬每秒一百萬(wàn)用戶HTTP請(qǐng)求,在4臺(tái)OCP服務(wù)器上部署HAProxy,在6臺(tái)服務(wù)器上部署NginX,4臺(tái)HAProxy負(fù)責(zé)把一百萬(wàn)用戶請(qǐng)求分發(fā)到6臺(tái)NginX服務(wù)器上,這6臺(tái)NginX服務(wù)器來(lái)處理一百萬(wàn)用戶HTTP請(qǐng)求。數(shù)人云DCOS對(duì)HAProxy和NginX進(jìn)行深度調(diào)優(yōu),每臺(tái)HAProxy服務(wù)器(48核CPU、140G內(nèi)存、萬(wàn)兆網(wǎng)卡)可以處理27萬(wàn)并發(fā)HTTP請(qǐng)求,每臺(tái)NginX服務(wù)器(32核CPU、140G內(nèi)存、萬(wàn)兆網(wǎng)卡)每秒可以處理19萬(wàn)HTTP請(qǐng)求(NginX的HTTP響應(yīng)為L(zhǎng)ua腳本做的動(dòng)態(tài)頁(yè)面,以防止靜態(tài)HTTP頁(yè)面被緩存)。
縱坐標(biāo)-綠色代表用戶數(shù),藍(lán)色代表鏈接數(shù)
橫坐標(biāo)-時(shí)間軸,單位秒
縱坐標(biāo)-綠色代表成功處理數(shù)量,藍(lán)色代表失敗數(shù)量
橫坐標(biāo)-時(shí)間軸,單位秒
數(shù)人云DCOS最終僅用10臺(tái)OCP服務(wù)器就承載了百萬(wàn)并發(fā)HTTP請(qǐng)求,用Tsung模擬每秒鐘100萬(wàn)個(gè)用戶的并發(fā)請(qǐng)求,每秒平均處理85萬(wàn)請(qǐng)求。
據(jù)悉,數(shù)人云創(chuàng)始團(tuán)隊(duì)來(lái)自谷歌、紅帽和惠普,在今年3月初公司剛剛宣布完成A輪融資。數(shù)人云致力打造下一代DCOS,基于Docker+Mesos的技術(shù)理念,將應(yīng)用彈性做到極致。通過(guò)最輕量化的PaaS平臺(tái),數(shù)人云實(shí)現(xiàn)一站式的微服務(wù)架構(gòu)集群系統(tǒng),最大化地幫助客戶實(shí)現(xiàn)應(yīng)用業(yè)務(wù)在云端的快速部署,解決從客戶到云資源的最后一公里。
好文章,需要你的鼓勵(lì)
新加坡國(guó)立大學(xué)研究團(tuán)隊(duì)開(kāi)發(fā)了SPIRAL框架,通過(guò)讓AI與自己對(duì)弈零和游戲來(lái)提升推理能力。實(shí)驗(yàn)顯示,僅訓(xùn)練AI玩簡(jiǎn)單撲克游戲就能讓其數(shù)學(xué)推理能力提升8.6%,通用推理提升8.4%,且無(wú)需任何數(shù)學(xué)題目作為訓(xùn)練材料。研究發(fā)現(xiàn)游戲中的三種推理模式能成功轉(zhuǎn)移到數(shù)學(xué)解題中,為AI訓(xùn)練提供了新思路。
同濟(jì)大學(xué)團(tuán)隊(duì)開(kāi)發(fā)的GIGA-ToF技術(shù)通過(guò)融合多幀圖像的"圖結(jié)構(gòu)"信息,創(chuàng)新性地解決了3D相機(jī)噪聲問(wèn)題。該技術(shù)利用圖像間的不變幾何關(guān)系,結(jié)合深度學(xué)習(xí)和數(shù)學(xué)優(yōu)化方法,在合成數(shù)據(jù)集上實(shí)現(xiàn)37.9%的精度提升,并在真實(shí)設(shè)備上展現(xiàn)出色泛化能力,為機(jī)器人、AR和自動(dòng)駕駛等領(lǐng)域提供更可靠的3D視覺(jué)解決方案。
伊利諾伊大學(xué)研究團(tuán)隊(duì)通過(guò)對(duì)比實(shí)驗(yàn)發(fā)現(xiàn),經(jīng)過(guò)強(qiáng)化學(xué)習(xí)訓(xùn)練的視覺(jué)語(yǔ)言模型雖然表現(xiàn)出"頓悟時(shí)刻"現(xiàn)象,但這些自我糾錯(cuò)行為并不能實(shí)際提升推理準(zhǔn)確率。研究揭示了AI模型存在"生成-驗(yàn)證差距",即生成答案的能力強(qiáng)于驗(yàn)證答案質(zhì)量的能力,且模型在自我驗(yàn)證時(shí)無(wú)法有效利用視覺(jué)信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機(jī)構(gòu)聯(lián)合提出SparseLoRA技術(shù),通過(guò)動(dòng)態(tài)稀疏性實(shí)現(xiàn)大語(yǔ)言模型訓(xùn)練加速1.6倍,計(jì)算成本降低2.2倍。該方法使用SVD稀疏性估計(jì)器智能選擇重要計(jì)算部分,在保持模型性能的同時(shí)顯著提升訓(xùn)練效率,已在多個(gè)任務(wù)上驗(yàn)證有效性。