科技行者 7月11日 北京消息(文/周雅):馬克思曾經(jīng)一句名言“科技是第一生產(chǎn)力”,放到互聯(lián)網(wǎng)時(shí)代依然顛撲不破,很多互聯(lián)網(wǎng)公司也深諳這一點(diǎn),對于“科技創(chuàng)新”的追求從未停止過。
以阿里巴巴舉例??紤]到阿里的未來科技力量儲備,馬云在2017年建成「達(dá)摩院」,成立之初,他對達(dá)摩院提出三個(gè)要求,“活得要比阿里巴巴長”、“服務(wù)至少20億人”、“必須用科技解決未來的問題”,官方聲稱這是“一家致力于探索科技未知,以人類愿景為驅(qū)動力的研究院”。
然而兩年過去了,達(dá)摩院究竟在做什么?7月10日下午,阿里巴巴在北京舉辦了一場媒體溝通會,這場會的主角,是阿里巴巴達(dá)摩院機(jī)器智能技術(shù)實(shí)驗(yàn)室,幾位阿里發(fā)言人講了講達(dá)摩院目前在AI領(lǐng)域的業(yè)務(wù)布局、人才儲備、以及技術(shù)演進(jìn)結(jié)果。
成立達(dá)摩院時(shí),馬云表示三年內(nèi)將投入逾1000億元,并將在初期招攬100名頂級科學(xué)家和研究人員。但他同時(shí)也提出要求,即達(dá)摩院要學(xué)會自營自利,未來要自己掙錢。
這也使得達(dá)摩院一開始就與其他的研究院有了很大不同。
達(dá)摩院機(jī)器智能技術(shù)事業(yè)部首席架構(gòu)師王駿以達(dá)摩院機(jī)器智能技術(shù)實(shí)驗(yàn)室為例介紹道,整個(gè)部門的運(yùn)作方式,是“研”“發(fā)”并重,既有research(研究),也有develop(開發(fā)),任務(wù)是希望開發(fā)出先進(jìn)的AI技術(shù)和產(chǎn)品,達(dá)到理想中的物理實(shí)驗(yàn)真正有價(jià)值的地方,不僅是商業(yè)價(jià)值,還有社會價(jià)值。
正因?yàn)閷W(xué)術(shù)思維和商業(yè)思維并重,該部門自然而然形成了一種自上而下的中心化研究管理體系,既確定了大的研究方向,同時(shí)保持研究自由度,任何研究小組都可以去做他感興趣的方向,并兼顧短期、中期、長期的規(guī)劃,最終的價(jià)值也都體現(xiàn)在創(chuàng)新技術(shù)產(chǎn)品上。
因此,回顧這兩年,達(dá)摩院既有一些理論性的研究,也有一些實(shí)踐性的應(yīng)用。比如,僅阿里AI團(tuán)隊(duì),便在國際頂級學(xué)術(shù)會議上共發(fā)表了近400篇頂級論文,同時(shí)也在國際頂級技術(shù)賽事上斬獲40余項(xiàng)世界第一,有20多個(gè)行業(yè)應(yīng)用落地,涉及交通、醫(yī)療、零售等等領(lǐng)域。
再比如,剛剛過去的6月份,在被譽(yù)為人工智能世界杯的WebVision競賽中,阿里AI擊敗了全世界150多支參賽隊(duì)伍,獲得冠軍。這是一個(gè)超大規(guī)模圖像識別的比賽,它要實(shí)現(xiàn)的是給機(jī)器一張圖,讓它去搜索其他關(guān)聯(lián)圖,這與眾所周知的“谷歌花大量時(shí)間讓機(jī)器識別一只貓”是一樣的道理,只不過這個(gè)比賽難度更大,它不允許人工標(biāo)注,這就意味著要讓機(jī)器自己具備歸納海量圖片的能力。據(jù)王駿介紹,其實(shí)阿里很早就開始研究這一技術(shù),拍立淘便是該技術(shù)的前身,目前阿里AI可以識別超過100萬種物理實(shí)體,“我們希望有一天,計(jì)算機(jī)可以自動識別每一個(gè)物體。”王駿說。
還有,2018年1月,在斯坦福大學(xué)發(fā)起的機(jī)器閱讀理解領(lǐng)域頂級賽事SQuAD上,阿里AI在開放域問答任務(wù)上達(dá)到人類水平。這是一個(gè)什么概念?我們所理解的AI問答,是基于數(shù)據(jù)庫進(jìn)行回答,但實(shí)際上很多問題涉及兩點(diǎn):有沒有問答數(shù)據(jù),以及有沒有知識統(tǒng)計(jì)。比方一個(gè)簡單問題“中國首都有多少人?”就隱含兩個(gè)問題:“中國首都是哪?”以及“這個(gè)城市有多少人口?”因此,AI在這個(gè)回答過程里,先要在數(shù)據(jù)庫里找到一個(gè)多文檔排序,匹配出與問題相關(guān)的文檔,再在文檔里定位問題,并作出回答。
取得這些成績,與達(dá)摩院雄厚的人才儲備不無關(guān)系。目前,達(dá)摩院旗下的科學(xué)家團(tuán)隊(duì)包括:美國密歇根州立大學(xué)終身教授金榕、密西根大學(xué)終身教授施堯耘、新加坡南洋理工大學(xué)終身教授王剛等20多位世界級科學(xué)家,以及10多名IEEE Fellow。
王駿表示,達(dá)摩院是一個(gè)全球化的機(jī)構(gòu),半數(shù)以上成員擁有博士以上學(xué)位,辦公室分布在4個(gè)國家的8個(gè)主要城市。其打趣說道,“正因?yàn)槿蚧?,達(dá)摩院要想所有員工一起開個(gè)會,時(shí)間很難湊,因?yàn)楦鞯囟加袝r(shí)差。”
據(jù)王駿介紹,達(dá)摩院機(jī)器智能技術(shù)實(shí)驗(yàn)室本質(zhì)以人工智能技術(shù)為核心,這就好比人類接收外界信號主要來自于三個(gè)感官通道,即視覺、語音、語言,與之相對應(yīng)的,阿里AI的研究領(lǐng)域則是視覺智能、語音智能、語言和知識,以及決策智能。“阿里希望機(jī)器未來具有一定的人類思維數(shù)據(jù)處理能力。”
當(dāng)天,達(dá)摩院首次對外展示了新一代語音合成技術(shù)——KAN-TTS(TTS,Text To Speech,即“從文本到語音”)。官方稱,KAN-TTS由達(dá)摩院機(jī)器智能實(shí)驗(yàn)室自主研發(fā),融合了目前主流的端到端TTS技術(shù)和傳統(tǒng)TTS技術(shù),從多個(gè)方面改進(jìn)了語音合成。
達(dá)摩院語音實(shí)驗(yàn)室高級算法專家雷鳴介紹了語言合成技術(shù)的歷史演變。1939年,人類第一次可以由鍵盤控制產(chǎn)生聲音,經(jīng)歷過多個(gè)發(fā)展階段,直到2017年,TTS技術(shù)已經(jīng)可以提供接近真人表現(xiàn)力的合成語音,但依然有缺陷。
據(jù)雷鳴說,當(dāng)前,業(yè)界商用系統(tǒng)的合成語音與原始音頻錄音的接近程度通常在85%-90%之間,這其實(shí)已經(jīng)是一個(gè)很高水平,而基于KAN-TTS技術(shù)的合成語音,則可將該數(shù)據(jù)進(jìn)一步提高到97%以上。
此外,傳統(tǒng)語音合成定制需要10小時(shí)以上的數(shù)據(jù)錄制和標(biāo)注,對錄音人和錄音環(huán)境要求很高。從啟動定制到最終交付,項(xiàng)目周期長成本高。
阿里利用Multi-Speaker Model與Speaker-aware Advanced Transfer Learning相結(jié)合的方法,將語音合成定制成本降低10倍以上,周期壓縮3倍以上。也就是說,用1小時(shí)有效錄音數(shù)據(jù)和不到兩個(gè)月制作周期,就能完成一次標(biāo)準(zhǔn)TTS定制。
普通用戶定制“AI聲音”的門檻更低。只需手機(jī)錄音十分鐘,就能獲得與錄制聲音高度相似的合成語音。阿里AI做到這一點(diǎn),主要基于自動數(shù)據(jù)檢查、自動標(biāo)注方法和對海量用戶場景的利用。
達(dá)摩院語音實(shí)驗(yàn)室對外提供了開箱即用的TTS解決方案,這主要是針對一些產(chǎn)品具有特定場景的需求。比如有些產(chǎn)品就要講一些兒童教育的故事,有些則是講富有情感的故事,針對這些,阿里TTS解決方案共有通用、客服、童聲、英文和方言5個(gè)場景的34種高品質(zhì)聲音供選擇。
達(dá)摩院語音實(shí)驗(yàn)室負(fù)責(zé)人鄢志杰說,達(dá)摩院是一個(gè)技術(shù)密集型團(tuán)隊(duì),但它并不是只專注于技術(shù)的研究,同時(shí)也要把這些技術(shù)產(chǎn)品化。比如語音技術(shù),阿里有各種各樣語音的源頭算法,這些不僅僅應(yīng)用在阿里自己的業(yè)務(wù)上,同時(shí)也能夠把這些技術(shù)放到云上,分享給合作伙伴。“可以說,阿里有什么,阿里云的客戶就能拿到什么。”
好文章,需要你的鼓勵(lì)
新加坡國立大學(xué)研究團(tuán)隊(duì)開發(fā)了SPIRAL框架,通過讓AI與自己對弈零和游戲來提升推理能力。實(shí)驗(yàn)顯示,僅訓(xùn)練AI玩簡單撲克游戲就能讓其數(shù)學(xué)推理能力提升8.6%,通用推理提升8.4%,且無需任何數(shù)學(xué)題目作為訓(xùn)練材料。研究發(fā)現(xiàn)游戲中的三種推理模式能成功轉(zhuǎn)移到數(shù)學(xué)解題中,為AI訓(xùn)練提供了新思路。
同濟(jì)大學(xué)團(tuán)隊(duì)開發(fā)的GIGA-ToF技術(shù)通過融合多幀圖像的"圖結(jié)構(gòu)"信息,創(chuàng)新性地解決了3D相機(jī)噪聲問題。該技術(shù)利用圖像間的不變幾何關(guān)系,結(jié)合深度學(xué)習(xí)和數(shù)學(xué)優(yōu)化方法,在合成數(shù)據(jù)集上實(shí)現(xiàn)37.9%的精度提升,并在真實(shí)設(shè)備上展現(xiàn)出色泛化能力,為機(jī)器人、AR和自動駕駛等領(lǐng)域提供更可靠的3D視覺解決方案。
伊利諾伊大學(xué)研究團(tuán)隊(duì)通過對比實(shí)驗(yàn)發(fā)現(xiàn),經(jīng)過強(qiáng)化學(xué)習(xí)訓(xùn)練的視覺語言模型雖然表現(xiàn)出"頓悟時(shí)刻"現(xiàn)象,但這些自我糾錯(cuò)行為并不能實(shí)際提升推理準(zhǔn)確率。研究揭示了AI模型存在"生成-驗(yàn)證差距",即生成答案的能力強(qiáng)于驗(yàn)證答案質(zhì)量的能力,且模型在自我驗(yàn)證時(shí)無法有效利用視覺信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機(jī)構(gòu)聯(lián)合提出SparseLoRA技術(shù),通過動態(tài)稀疏性實(shí)現(xiàn)大語言模型訓(xùn)練加速1.6倍,計(jì)算成本降低2.2倍。該方法使用SVD稀疏性估計(jì)器智能選擇重要計(jì)算部分,在保持模型性能的同時(shí)顯著提升訓(xùn)練效率,已在多個(gè)任務(wù)上驗(yàn)證有效性。
關(guān)注科技創(chuàng)新、技術(shù)投資。
以文會友,左手硬核科技,右手浪漫主義。