10月11日,阿里巴巴在杭州云棲大會上宣布成立 “達摩院”,進行基礎(chǔ)科學(xué)和顛覆式技術(shù)創(chuàng)新研究,3年投資1000億元。財報顯示,阿里2017財年技術(shù)投入為170億元,已經(jīng)超過百度同期的101.5億、騰訊118億和京東54億,居中國互聯(lián)網(wǎng)公司之首。
綜合各家財報研報等公開信息,阿里、百度、騰訊等互聯(lián)網(wǎng)企業(yè)均從不同渠道披露過技術(shù)產(chǎn)品類研發(fā)投入,其中阿里巴巴2017財年(2016年4月至2017年3月底)產(chǎn)品研發(fā)投入170億元人民幣。
未來三年阿里對技術(shù)投入千億,這意味著阿里巴巴未來3年年均技術(shù)投入將超過300億元。這一數(shù)字也將讓阿里巴巴在技術(shù)研發(fā)投入上保持大幅領(lǐng)先優(yōu)勢。這也顛覆了普遍對阿里的商業(yè)強于技術(shù)的認知。
據(jù)了解,這筆投入將覆蓋量子計算、機器學(xué)習(xí)、基礎(chǔ)算法、網(wǎng)絡(luò)安全、視覺計算、自然語言處理、下一代人機交互、芯片技術(shù)、傳感器技術(shù)、嵌入式系統(tǒng)等,涵蓋機器智能、智聯(lián)網(wǎng)、金融科技等多個產(chǎn)業(yè)領(lǐng)域。
在大會現(xiàn)場,馬云提到創(chuàng)立“達摩院”是為了支持第五大經(jīng)濟體、解決未來問題,“達摩院要比阿里巴巴活的更長,是給世界最好的東西之一。”
好文章,需要你的鼓勵
新加坡國立大學(xué)研究團隊開發(fā)了SPIRAL框架,通過讓AI與自己對弈零和游戲來提升推理能力。實驗顯示,僅訓(xùn)練AI玩簡單撲克游戲就能讓其數(shù)學(xué)推理能力提升8.6%,通用推理提升8.4%,且無需任何數(shù)學(xué)題目作為訓(xùn)練材料。研究發(fā)現(xiàn)游戲中的三種推理模式能成功轉(zhuǎn)移到數(shù)學(xué)解題中,為AI訓(xùn)練提供了新思路。
同濟大學(xué)團隊開發(fā)的GIGA-ToF技術(shù)通過融合多幀圖像的"圖結(jié)構(gòu)"信息,創(chuàng)新性地解決了3D相機噪聲問題。該技術(shù)利用圖像間的不變幾何關(guān)系,結(jié)合深度學(xué)習(xí)和數(shù)學(xué)優(yōu)化方法,在合成數(shù)據(jù)集上實現(xiàn)37.9%的精度提升,并在真實設(shè)備上展現(xiàn)出色泛化能力,為機器人、AR和自動駕駛等領(lǐng)域提供更可靠的3D視覺解決方案。
伊利諾伊大學(xué)研究團隊通過對比實驗發(fā)現(xiàn),經(jīng)過強化學(xué)習(xí)訓(xùn)練的視覺語言模型雖然表現(xiàn)出"頓悟時刻"現(xiàn)象,但這些自我糾錯行為并不能實際提升推理準確率。研究揭示了AI模型存在"生成-驗證差距",即生成答案的能力強于驗證答案質(zhì)量的能力,且模型在自我驗證時無法有效利用視覺信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機構(gòu)聯(lián)合提出SparseLoRA技術(shù),通過動態(tài)稀疏性實現(xiàn)大語言模型訓(xùn)練加速1.6倍,計算成本降低2.2倍。該方法使用SVD稀疏性估計器智能選擇重要計算部分,在保持模型性能的同時顯著提升訓(xùn)練效率,已在多個任務(wù)上驗證有效性。