4月11日,阿里巴巴集團(tuán)董事會(huì)主席兼CEO、阿里云智能集團(tuán)CEO張勇在云峰會(huì)上表示,阿里巴巴所有產(chǎn)品未來將接入“通義千問”大模型,進(jìn)行全面改造。他認(rèn)為,面向AI時(shí)代,所有產(chǎn)品都值得用大模型重新升級(jí)。
張勇表示,AI大模型的出現(xiàn)是一個(gè)劃時(shí)代的里程碑,人類將進(jìn)入到一個(gè)全新的智能化時(shí)代,就像工業(yè)革命一樣,大模型將會(huì)被各行各業(yè)廣泛應(yīng)用,帶來生產(chǎn)力的巨大提升,并深刻改變我們的生活方式。
自2019年起,阿里即開始進(jìn)行大模型研究,并在近期推出階段性的研究成果:通義千問大模型。張勇介紹,釘釘、天貓精靈等產(chǎn)品在接入通義千問測(cè)試后,變得聰明了很多,像天貓精靈,不僅能回答家里小朋友的各種刁鉆問題,還多了一份情感連接,成為更溫暖更人性化的智能助手。
釘釘接入通義千問測(cè)試之后,可以自動(dòng)生成工作方案,也可以在會(huì)議紀(jì)要后自動(dòng)生成總結(jié)和待辦事項(xiàng),還能拍一張功能草圖自動(dòng)生成小程序。
阿里巴巴決定未來將所有產(chǎn)品接入通義千問,進(jìn)行全面改造。張勇表示,面向AI時(shí)代,所有產(chǎn)品都值得用大模型重做一次,基于這一信念,阿里云希望幫助更多企業(yè)用上大模型,讓每家企業(yè)都能基于“通義千問”,擁有具備自己行業(yè)能力的專屬大模型。
他同時(shí)指出,大模型是一場(chǎng)“AI+云計(jì)算”的全方位競(jìng)爭(zhēng),超萬億參數(shù)的大模型研發(fā),并不僅僅是算法問題,而是囊括了底層龐大算力、網(wǎng)絡(luò)、大數(shù)據(jù)、機(jī)器學(xué)習(xí)等諸多領(lǐng)域的復(fù)雜系統(tǒng)性工程,需要有超大規(guī)模AI基礎(chǔ)設(shè)施的支撐。
張勇表示,面對(duì)全新的AI時(shí)代,阿里云已經(jīng)做好了準(zhǔn)備。十多年來,阿里云已經(jīng)累積了從飛天云操作系統(tǒng)、芯片到智算平臺(tái)的“AI+云計(jì)算”的全棧技術(shù)實(shí)力,今天,阿里云將把這些AI基礎(chǔ)設(shè)施和大模型能力向所有企業(yè)開放,共同推動(dòng)AI產(chǎn)業(yè)的發(fā)展。
“一家企業(yè)的想象力終歸是有限的,釋放AI潛力要靠無數(shù)人探索。”張勇說。
好文章,需要你的鼓勵(lì)
新加坡國立大學(xué)研究團(tuán)隊(duì)開發(fā)了SPIRAL框架,通過讓AI與自己對(duì)弈零和游戲來提升推理能力。實(shí)驗(yàn)顯示,僅訓(xùn)練AI玩簡(jiǎn)單撲克游戲就能讓其數(shù)學(xué)推理能力提升8.6%,通用推理提升8.4%,且無需任何數(shù)學(xué)題目作為訓(xùn)練材料。研究發(fā)現(xiàn)游戲中的三種推理模式能成功轉(zhuǎn)移到數(shù)學(xué)解題中,為AI訓(xùn)練提供了新思路。
同濟(jì)大學(xué)團(tuán)隊(duì)開發(fā)的GIGA-ToF技術(shù)通過融合多幀圖像的"圖結(jié)構(gòu)"信息,創(chuàng)新性地解決了3D相機(jī)噪聲問題。該技術(shù)利用圖像間的不變幾何關(guān)系,結(jié)合深度學(xué)習(xí)和數(shù)學(xué)優(yōu)化方法,在合成數(shù)據(jù)集上實(shí)現(xiàn)37.9%的精度提升,并在真實(shí)設(shè)備上展現(xiàn)出色泛化能力,為機(jī)器人、AR和自動(dòng)駕駛等領(lǐng)域提供更可靠的3D視覺解決方案。
伊利諾伊大學(xué)研究團(tuán)隊(duì)通過對(duì)比實(shí)驗(yàn)發(fā)現(xiàn),經(jīng)過強(qiáng)化學(xué)習(xí)訓(xùn)練的視覺語言模型雖然表現(xiàn)出"頓悟時(shí)刻"現(xiàn)象,但這些自我糾錯(cuò)行為并不能實(shí)際提升推理準(zhǔn)確率。研究揭示了AI模型存在"生成-驗(yàn)證差距",即生成答案的能力強(qiáng)于驗(yàn)證答案質(zhì)量的能力,且模型在自我驗(yàn)證時(shí)無法有效利用視覺信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機(jī)構(gòu)聯(lián)合提出SparseLoRA技術(shù),通過動(dòng)態(tài)稀疏性實(shí)現(xiàn)大語言模型訓(xùn)練加速1.6倍,計(jì)算成本降低2.2倍。該方法使用SVD稀疏性估計(jì)器智能選擇重要計(jì)算部分,在保持模型性能的同時(shí)顯著提升訓(xùn)練效率,已在多個(gè)任務(wù)上驗(yàn)證有效性。