在美國聯(lián)邦政府下轄的眾多部門與機構(gòu)當(dāng)中,美國能源部在對科學(xué)、技術(shù)及創(chuàng)新的關(guān)注方面可謂一枝獨秀。很多人可能都對能源部旗下極具突破性的實驗室、世界一流的研究機構(gòu)以及擁有頂尖學(xué)術(shù)成果的傳奇員工們有所耳聞。自第二次世界大戰(zhàn)以來,美國能源部一直挺立在科學(xué)與技術(shù)領(lǐng)域的一切開創(chuàng)性與變革性努力的最前沿。除了對原子能的開發(fā)與利用,能源部還提出人類基因組計劃倡議,并在其他創(chuàng)新、高性能計算等研究型工作當(dāng)中發(fā)揮著重要作用。
▲ 圖:美國能源部AI與技術(shù)辦公室主任Cheryl Ingstad
事實上,美國能源部在物理科學(xué)方面的研究遠超任何其他美國聯(lián)邦機構(gòu),包括通過勞倫斯-伯克利國家實驗室、橡樹嶺國家實驗室、阿貢國家實驗室、艾姆斯實驗室、布魯克海文國家實驗室、洛斯阿拉莫斯國家實驗室、桑迪亞國家實驗室、勞倫斯·利弗莫爾國家實驗室、SLAC國家加速器實驗室以及其他數(shù)十個機構(gòu)等,都為美國在計算、物理、化學(xué)、材料科學(xué)等多個領(lǐng)域的研究提供了超過40%的資金。就在不久之前,能源部還運行著全球性能最強大的兩臺超級計算機:Summit與Sierra。
憑借一系列研究、計算與資金實力,能源部也率先推動對AI及其應(yīng)用在各個行業(yè)中的相關(guān)研究。今年早些時候,Cheryl Ingstad被任命為能源部AI與技術(shù)辦公室主任。在本文中,她將分享她的部分見解。
問:人們可能不太了解,能源部與AI其實有著密不可分的悠久歷史。您能簡單介紹一下嗎?
Cheryl: 憑借著近80年的創(chuàng)新經(jīng)驗、無與倫比的研發(fā)基礎(chǔ)設(shè)施以及對于加速科學(xué)發(fā)現(xiàn)的強烈訴求,我認(rèn)為能源部以及我們下轄的17所國家實驗室已經(jīng)成為美國乃至世界范圍內(nèi)最強大的創(chuàng)新孵化場。
我們在AI方面的探索經(jīng)歷可以追溯到上世紀(jì)七十到八十年代,當(dāng)時主要是利用基于規(guī)則的早期機器學(xué)習(xí)方法操作大型實驗設(shè)施(例如粒子加速器)并分析大規(guī)模數(shù)據(jù)集。
從1990年到2010年這二十年間,各實驗室進行了大量工作,將新興機器學(xué)習(xí)用于處理可能造成嚴(yán)重后果的各類國家安全挑戰(zhàn),例如網(wǎng)絡(luò)安全與核不擴散原則等。在此期間,能源部也著手?jǐn)U展自有超級計算機上的學(xué)習(xí)系統(tǒng)。
可以說,我們的部門一直在機器學(xué)習(xí)與人工智能領(lǐng)域持續(xù)投入,并在數(shù)十年中持續(xù)與私營部門及學(xué)術(shù)界保持著密切合作。憑借著豐富的經(jīng)驗與無與倫比的計算能力,能源部建立起無可替代的優(yōu)勢地位,推動聯(lián)邦政府致力于發(fā)展、促進并實現(xiàn)人工智能技術(shù)做出的種種承諾。
問:能源部一直在以多種先進方式使用AI與ML技術(shù)。您能否分享一些關(guān)于AI應(yīng)用的具體案例?
Cheryl: 目前,能源部及其國家實驗室正領(lǐng)導(dǎo)超過600個不同的AI項目,旨在加強我們在能源、網(wǎng)絡(luò)以及國家安全方面的核心使命,同時加速科學(xué)發(fā)現(xiàn)。
我們使用AI技術(shù)推動精準(zhǔn)的地下能源勘探,這不僅帶來了產(chǎn)量提升,同時也減少了對環(huán)境的破壞性影響。人工智能正幫助我們提高電網(wǎng)的可靠性與彈性,為美國的經(jīng)濟乃至國家安全奠定了基礎(chǔ)。我們還使用AI增強關(guān)鍵基礎(chǔ)設(shè)施的網(wǎng)絡(luò)攻擊防護水平??梢哉f在各個方面,能源部都在著力運用AI這項突破性的技術(shù)。
但AI的影響遠遠超越了能源部傳統(tǒng)認(rèn)知中的核心任務(wù)范疇,我們的實驗室也正在使用AI技術(shù)提高農(nóng)作物產(chǎn)量、幫助預(yù)測地震等地質(zhì)活動、加速新藥開發(fā)并改善各類致命疾病的診斷與治療方法。最近能源部憑借著全球最快的超級計算機之一Summit的強大功能,配合自身在科學(xué)與AI方面的專業(yè)知識,為對抗COVID-19疫情貢獻了自己的力量。
問:作為能源部人工智能與技術(shù)辦公室(AITO)的第一任主管,您是如何對能源部的AI技術(shù)進行開發(fā)、交付與管理規(guī)劃的?
Cheryl: 首先,作為第一任美國政府民用AI技術(shù)部門的領(lǐng)導(dǎo)者,我要榮幸地宣布,能源部AI與技術(shù)辦公室的成立對于AI發(fā)展具有重大意義。我們正面對一場巨大的變革,而AI將成為決定勝敗的關(guān)鍵所在。
之前我已經(jīng)提到,在龐大的能源部當(dāng)中,存在著數(shù)百個前景光明的技術(shù)項目。但在此之前,這些項目都是孤立存在,彼此之間缺乏協(xié)調(diào)與戰(zhàn)略規(guī)劃。
正因為如此,去年8月,前任能源部長Perry才決定成立AITO以作為能源部AI工作的樞紐,著力評估、調(diào)協(xié)并推動能源部在AI這一關(guān)鍵領(lǐng)域的發(fā)展與進步。
AITO的目標(biāo)非常簡單:組織能源部內(nèi)的各類AI活動(包括研發(fā)、應(yīng)用、政策乃至基礎(chǔ)設(shè)施工作),明確指定可加快項目成功的資源。最重要的是,對各項目進行調(diào)整,保證其如同激光一樣彼此聚焦以建立起統(tǒng)一的AI技術(shù)力量。
作為主管,我的首要任務(wù)是將AITO打造成能源部AI轉(zhuǎn)型道路上的推動力。這種轉(zhuǎn)變絕非易事,其中必然會出現(xiàn)需要克服的挫折、障礙與挑戰(zhàn)。但我堅信,通過合作,我們可以利用AI技術(shù)增強美國的能源、經(jīng)濟乃至國家安全,并給整個國家?guī)矸e極而持久的影響。
問:您認(rèn)為公共部門在AI技術(shù)發(fā)展方面擁有哪些獨特的機會?
Cheryl: AI技術(shù)最令人興奮的一點,就是其實際應(yīng)用所帶來的潛在收益幾乎無窮無盡,完全取決于大家的想象力。在新任能源部長Brouillette的引導(dǎo)下,能源部各計劃辦公室與實驗室正在同AITO開展合作,確定從運營到采購的整體流程。正如部長所言,我們能源部必須以身作則,率先展示AI技術(shù)的強大優(yōu)勢。
例如,很多人不知道美國能源部其實擁有并運營著國內(nèi)一部分電網(wǎng),約有10%的美國民眾依靠這部分電網(wǎng)獲得可靠且價格合理的電力資源。為此,我們擁有的一大實際機遇,就是開發(fā)AI解決方案以改善服務(wù)體驗并幫助客戶進一步降低能源使用成本。
在機構(gòu)間協(xié)作方面,能源部正與多家機構(gòu)聯(lián)手,研究如何將AI技術(shù)應(yīng)用于更多重要任務(wù)當(dāng)中——我們的近期目標(biāo)是幫助納稅人更好地管理資金,同時增強聯(lián)邦政府向全體美國民眾提供的服務(wù)。
更具體地講,我們還有機會在政府?dāng)?shù)據(jù)集的安全存儲、管理與分析方面有所貢獻。聯(lián)邦政府下轄的各個機構(gòu)都會產(chǎn)生規(guī)模龐大,但目前仍未得到充分利用的數(shù)據(jù)。美國能源部擁有安全的飛地基礎(chǔ)設(shè)施、強大的原始計算能力以及廣泛的科學(xué)專業(yè)知識,完全能夠充當(dāng)這些數(shù)據(jù)集的交換平臺與策劃方,保證美國政府能夠運用AI之力應(yīng)對國家發(fā)展所必須解決的各類嚴(yán)峻挑戰(zhàn)。
問:那么,公共部門在AI領(lǐng)域又面對著哪些獨特的挑戰(zhàn)?
Cheryl: 與其他突破性技術(shù)一樣,AI技術(shù)也給我們帶來了不少當(dāng)前及未來需要逐步解決的難題。
首先就是,AI支持型決策能否得到驗證、值得依賴且保證不存在人為偏見。要解決這個問題,就需要在數(shù)據(jù)安全性、道德倫理以及隱私合理性等方面加以關(guān)注。
另外,公共部門需要認(rèn)真考慮AI發(fā)展給勞動力市場帶來的沖擊。具體來講,我們不僅要意識到以往眾多只能由人工完成的任務(wù),未來都將由AI接手并實現(xiàn)全面自動化,此外我們還需要幫助民眾為AI普及之后出現(xiàn)的新型工作崗位做好準(zhǔn)備。再有,隨著各民族國家及非國家組織在AI能力方面的進步,對抗性AI正越來越多地成為人們關(guān)注的議題。
這些擔(dān)憂不無道理,AI這一突破性技術(shù)也確實可能帶來負(fù)面影響。而相關(guān)挑戰(zhàn)的答案,要求我們在努力開發(fā)技術(shù)本身之余,充分發(fā)揮創(chuàng)新觀念與想象力。
問:能源部如何努力讓自有數(shù)據(jù)為AI/ML應(yīng)用做好準(zhǔn)備?
Cheryl: 這是個好問題。如您所知,數(shù)據(jù)可以說是AI項目成功的關(guān)鍵性前提。AI項目的最終表現(xiàn),完全取決于我們?yōu)槠涮峁┰鯓拥臄?shù)據(jù)。以此為基礎(chǔ),能源部的高層領(lǐng)導(dǎo)一直在通過數(shù)據(jù)治理委員會充分利用我們已經(jīng)擁有的大量遺留數(shù)據(jù),并保證對后續(xù)收集到的數(shù)據(jù)進行及時整理、標(biāo)記與保護。只有這樣,我們才有可能建立起及時且可驗證的AI解決方案。
我們的一大核心目標(biāo),就是將關(guān)鍵數(shù)據(jù)集以更廣泛、更輕松的方式交付給實驗室的研究人員。我們希望減少各領(lǐng)域?qū)<以跀?shù)據(jù)采集與數(shù)據(jù)管理方面耗費的時間,將寶貴精力真正投入到AI的成功應(yīng)用當(dāng)中。
問:能源部擁有全球最強大的超級計算機,那么它們是如何應(yīng)用于AI項目的?
Cheryl: 目前,能源部對于計算能力以及創(chuàng)新發(fā)現(xiàn)的追求,確實達到了無與倫比的程度。
我們擁有全球速度最快、性能最強的三臺超級計算機中的兩臺,而且能源部很快將部署三臺下一代百億億次超級計算機,這將幫助我們以更加驚人的速度處理海量數(shù)據(jù)。
在迫切需要AI洞見時(例如聯(lián)邦政府在面對COVID-19疫情時),能源部的超級計算機能夠在幾小時甚至幾分鐘之內(nèi),完成其他系統(tǒng)需要數(shù)周乃至數(shù)月才能完成的計算任務(wù)。
事實上,能源部也是COVID-19高性能計算聯(lián)盟的主要合作伙伴之一。參與各方利用AI技術(shù)分析大量數(shù)據(jù),希望從中發(fā)現(xiàn)關(guān)于冠狀病毒的新穎見解。
問:AI技術(shù)對于能源部未來的發(fā)展愿景又有著怎樣的重要作用?
Cheryl: 我堅信,如同一百多年前出現(xiàn)的電力一樣,AI技術(shù)也將給我們的日常生活帶來巨大的變化。Brouillette部長也意識到了這一點,他的愿景是通過加快技術(shù)的研究、開發(fā)、交付與應(yīng)用,將能源部轉(zhuǎn)變?yōu)槊绹?dāng)中民用AI領(lǐng)域的牽頭機構(gòu)。
如今,AI技術(shù)已經(jīng)在美國能源部的眾多關(guān)鍵任務(wù)領(lǐng)域發(fā)揮作用包括美國的能源可靠性、環(huán)境管理、核安全、國家情報與科學(xué)發(fā)現(xiàn)等等。它還在改變著我們應(yīng)對自然災(zāi)害的方式,幫助我們保護關(guān)鍵基礎(chǔ)設(shè)施、為情報機構(gòu)提供信息支持,甚至改變著我們檢測及應(yīng)對惡意網(wǎng)絡(luò)威脅的具體方式。
能源部還負(fù)責(zé)制定對于國家擁有重大影響的安全決策。在各個關(guān)鍵領(lǐng)域建立安全且可信賴的AI解決方案,自然也要求能源部突破當(dāng)前我們對于AI前沿的認(rèn)知邊界。
問:能源部對于AI應(yīng)用層面的道德規(guī)范與負(fù)責(zé)任態(tài)度又有著怎樣的看法?
Cheryl: 正如總統(tǒng)在《人工智能行政令》中所明確指出,美國在AI的開發(fā)與應(yīng)用方面必須處于領(lǐng)先地位,我們需要借此保證隨著AI技術(shù)在日常生活中的普及,其同時也能體現(xiàn)美國對于傳統(tǒng)價值觀以及各項基本權(quán)利的尊重。
美國有權(quán)利、也有義務(wù)引領(lǐng)AI技術(shù)發(fā)展,并與私營部門、學(xué)術(shù)界以及志同道合的盟友們建立合作關(guān)系,共同塑造出更美好的未來AI發(fā)展態(tài)勢。
問:能源部打算如何幫助勞動力市場為AI時代的到來做好準(zhǔn)備?
Cheryl: AI正在創(chuàng)造全新的職業(yè)道路,同時改變著每個人的生活。為此,我們經(jīng)濟體系中的各個部門都在以不同的角度努力應(yīng)對這一挑戰(zhàn)。在能源部,我們一方面增強現(xiàn)有員工的AI能力,同時也在為未來需求吸納更多人才,希望借此保證能源部能夠充分利用這項技術(shù)優(yōu)化并完成各項意義深遠的基本任務(wù)。
為此,我們已經(jīng)開始組織在線培訓(xùn)課程與教育研討會,希望提高聯(lián)邦政府雇員的整體技術(shù)水平。在教育計劃的制定中,我們結(jié)合了來自各實驗室、私營部門以及高等教育合作伙伴的意見,幫助非專業(yè)人士了解AI的奧秘、鼓勵員工以創(chuàng)造性方式思考AI解決方案如何幫助其高效處理工作,同時也引導(dǎo)他們積極解決由AI技術(shù)帶來的一系列道德、法律與社會問題。
對于能源部來說,要真正為AI的全面普及做好準(zhǔn)備,首先需要由AI技術(shù)專家對AI技術(shù)進行設(shè)計、開發(fā)與標(biāo)準(zhǔn)化調(diào)整。為此,我們通過各國家實驗室內(nèi)部的實習(xí)機會、獎學(xué)金計劃、研究經(jīng)費、交流通道以及客座教授計劃等制定起多項平等戰(zhàn)略,借此培養(yǎng)、招募并保留具備強大專業(yè)知識的廣泛AI人才。
但除了能源部,我認(rèn)為我們需要在國家層面發(fā)起一項與STEM類似的綜合性教育計劃,激發(fā)人們對于AI相關(guān)課程的興趣。此外,我們還應(yīng)制定適當(dāng)?shù)姆侄问秸n程,保證未來的勞動力在教育過程中充分了解AI這一具有突破性的技術(shù)成果。
問:能源部如何在AI探索中引入行業(yè)及私營部門的力量?
Cheryl: 我們辦公室最近剛剛發(fā)布了第一項信息征集令(RFI),要求AI社區(qū)就最重要的AI技術(shù)與應(yīng)用方式提出自己的看法,探討這些技術(shù)與應(yīng)用方式如何保證美國能夠在未來十年中保持AI領(lǐng)先地位。我期待看到業(yè)界的回復(fù),也希望他們的真知灼見與專業(yè)知識能夠在不久的未來成為攻克AI挑戰(zhàn)的重要武器。
問:在未來幾年中,您自己最期待看到哪些AI技術(shù)突破?
Cheryl: 我最期待看到如何開發(fā)并組合多種AI技術(shù),例如將神經(jīng)網(wǎng)絡(luò)、自然語言處理以及稀疏數(shù)據(jù)結(jié)合起來,借此創(chuàng)造出能夠改變國家安全、企業(yè)、行業(yè)乃至醫(yī)療保健領(lǐng)域的突破性解決方案。在醫(yī)療保健方面,我認(rèn)為AI將迸發(fā)出幾乎無窮無盡的診療與護理潛能。
好文章,需要你的鼓勵
新加坡國立大學(xué)研究團隊開發(fā)了SPIRAL框架,通過讓AI與自己對弈零和游戲來提升推理能力。實驗顯示,僅訓(xùn)練AI玩簡單撲克游戲就能讓其數(shù)學(xué)推理能力提升8.6%,通用推理提升8.4%,且無需任何數(shù)學(xué)題目作為訓(xùn)練材料。研究發(fā)現(xiàn)游戲中的三種推理模式能成功轉(zhuǎn)移到數(shù)學(xué)解題中,為AI訓(xùn)練提供了新思路。
同濟大學(xué)團隊開發(fā)的GIGA-ToF技術(shù)通過融合多幀圖像的"圖結(jié)構(gòu)"信息,創(chuàng)新性地解決了3D相機噪聲問題。該技術(shù)利用圖像間的不變幾何關(guān)系,結(jié)合深度學(xué)習(xí)和數(shù)學(xué)優(yōu)化方法,在合成數(shù)據(jù)集上實現(xiàn)37.9%的精度提升,并在真實設(shè)備上展現(xiàn)出色泛化能力,為機器人、AR和自動駕駛等領(lǐng)域提供更可靠的3D視覺解決方案。
伊利諾伊大學(xué)研究團隊通過對比實驗發(fā)現(xiàn),經(jīng)過強化學(xué)習(xí)訓(xùn)練的視覺語言模型雖然表現(xiàn)出"頓悟時刻"現(xiàn)象,但這些自我糾錯行為并不能實際提升推理準(zhǔn)確率。研究揭示了AI模型存在"生成-驗證差距",即生成答案的能力強于驗證答案質(zhì)量的能力,且模型在自我驗證時無法有效利用視覺信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機構(gòu)聯(lián)合提出SparseLoRA技術(shù),通過動態(tài)稀疏性實現(xiàn)大語言模型訓(xùn)練加速1.6倍,計算成本降低2.2倍。該方法使用SVD稀疏性估計器智能選擇重要計算部分,在保持模型性能的同時顯著提升訓(xùn)練效率,已在多個任務(wù)上驗證有效性。