ChatGPT的爆發(fā),讓AI進入深度學習2.0時代,生成式AI應用不斷涌現(xiàn)。而伴隨AI大模型在各行業(yè)落地,用戶在能效、數(shù)據(jù)隱私、個性化定制等方面的需求也愈發(fā)強烈,云端公有大模型與端側私有大模型混合部署已成為行業(yè)共識。作為端側生成式AI最佳載體的PC產業(yè),對硬件尤其是作為核心計算單元的SoC的AI算力,提出了新的需求。
在此背景下,此芯科技火速召開了AI PC戰(zhàn)略暨首款芯片發(fā)布會,以全新面貌迎接AI PC新時代。
會上,此芯科技確立“一芯多用”戰(zhàn)略,面向全球與本土雙市場,構建端側AI生態(tài),率先聚焦AI PC領域,打造新一代AI PC算力底座。
“此芯科技致力于以高能效算力解決方案,推動端側AI生態(tài)發(fā)展,通過AI技術應用,讓生活、學習、工作變得更智能、高效、人性化。”此芯科技創(chuàng)始人、CEO孫文劍表示,希望以AI創(chuàng)造更美好的未來。
此芯科技創(chuàng)始人、CEO孫文劍
“一芯多用”打造新一代AI PC算力底座
“此芯科技芯片的豐富功能,一方面極大滿足客戶多場景的需求;另一方面通過多場景落地,產品的銷量增加,攤薄產品研發(fā)費用,為客戶帶來高性價比產品體驗。”孫文劍指出。
對于新一代AI PC算力底座,孫文劍介紹說:“此芯科技AI PC算力底座具有異構、高能效、安全的特點。”其異構集成了CPU、GPU、NPU,并基于數(shù)據(jù)鏈路帶寬優(yōu)化,實現(xiàn)高效運行。
能效方面,采用多核異構及專用NPU的設計和低功耗內存技術,通過軟硬件協(xié)同優(yōu)化,實現(xiàn)高能效。
安全方面,此芯P1具備最新Arm®v9架構中的PACBTI、MTE、secure EL2等安全特性,支持通用商密和國密算法,同時滿足TPM(可信平臺模塊)和TCM(可信密碼模塊)需求,提供系統(tǒng)級安全和隱私保障。
“此芯科技新一代的AI PC算力底座,面向生成式AI,支持混合人工智能部署”,孫文劍進一步指出,通過構建豐富的軟硬件開放生態(tài),為開發(fā)者賦能,持續(xù)探索端側AI PC應用場景及優(yōu)勢。
首款異構AI PC芯片發(fā)布
除了公布“一芯多用”戰(zhàn)略之外,此芯科技還發(fā)布了首款落地產品,專為AI PC打造的異構高能效SoC——此芯P1。孫文劍介紹:“經過嚴格的測試,此芯P1完全達到量產要求,將正式進入產品化階段。”
此芯科技發(fā)布首款AI PC芯片
此芯P1使用6nm制造工藝,提供豐富的AI異構計算資源、全方位的安全引擎、多樣化的外設接口、多操作系統(tǒng)支持等特性。
強大的多媒體引擎支持4K120幀顯示、8K60幀視頻解碼以及8K30幀視頻編碼等;高性能的訪存子系統(tǒng)配置128-bit LPDDR5低功耗內存,容量可達64GB,數(shù)據(jù)傳輸率可達6400Mbps、帶寬可達100GB/s;同時,具備高效的功耗管理,提供精準的動態(tài)調頻調壓、多電源域和動態(tài)的電源門控、標準的PC電源工作模式。
核心CPU部分,以Arm大小核(big.LITTLE™)技術設計,8個性能核4個能效核,主頻最高可達3.2GHz以及針對PC場景優(yōu)化的多級緩存設計;同時,集成2個SVE2向量加速單元,實現(xiàn)機器學習指令增強。
集成GPU提供10核GPU處理器,滿足極致桌面渲染和通用AI計算需求。新一代硬件光線追蹤,媲美主機級別的游戲體驗;新型幾何圖形處理流程(延遲頂點著色DVS),實現(xiàn)功耗節(jié)省40%以上,以及靈活的可變速度著色(VRS),實現(xiàn)性能提升50%以上。同時,面向多場景的桌面GPU軟件棧,滿足行業(yè)應用需求。
強大的異構AI引擎,提供45TOPS端側AI異構算力,支持100億參數(shù)以內端側大模型部署,運行LLM可達30 tokens/s以上,面向計算機視覺、自然語言處理、生成式AI等多場景提供端側AI支持。
Arm終端事業(yè)部產品管理副總裁James McNiven表示:“AI正改變消費者使用PC的方式?;贏rm技術開發(fā)的此芯P1,使基于Arm平臺的PC生態(tài)系統(tǒng)優(yōu)勢惠及更廣泛的受眾,帶來一個兼具高性能、高能效且經過AI優(yōu)化的平臺,重新定義各類工作負載和用例的用戶體驗。”
安謀科技銷售及商務執(zhí)行副總裁徐亞濤表示:“此芯科技是安謀科技的重要合作伙伴,近年來雙方攜手推動了Arm CPU技術的迭代升級,引領了先進的Armv9架構在PC應用生態(tài)中的拓展。未來,我們將繼續(xù)在產品研發(fā)、技術生態(tài)等多個關鍵領域保持緊密協(xié)作,為產業(yè)提供更可靠、高效的算力解決方案,推動終端側AI在各領域的廣泛應用。”
安謀科技銷售及商務執(zhí)行副總裁 徐亞濤
完整解決方案支持 加速AI PC研發(fā)進程
“此芯科技作為PC芯片領域的新進者,有機會以全新視角來打造AI PC平臺解決方案。”此芯科技聯(lián)合創(chuàng)始人、系統(tǒng)工程副總裁褚染洲表示。此芯科技平臺解決方案的“三融”策略也由此應運而生。
此芯科技聯(lián)合創(chuàng)始人、系統(tǒng)工程副總裁 褚染洲
“三融”策略即融合X86、Arm兩大架構優(yōu)勢,融入PC產業(yè)朋友圈,融通AI的世界?;?ldquo;三融”策略, 此芯科技推出P1芯片的AI PC平臺解決方案,具備可擴展異構計算、支持多模態(tài)人機交互、高帶寬存儲、平臺級安全盾等特點。
此外,此芯科技AI PC平臺解決方案支持包括Video-In/out、GMAC/Ethernet、HDA/I2S等在內的豐富接口,為全域普惠AI提供了基礎;同時,基于“一芯多用”的戰(zhàn)略,此芯P1將推出多種規(guī)格,支持AI終端的多種產品形態(tài)落地。作為PC產品成本的要素之一,PCB的類型關系到SMT制程復雜度和良率。此芯P1平臺解決方案能做到8-12層,通孔、高密度板PCB全類型的支持,免除客戶做產品還要精選PCB供應商和SMT代工廠的煩惱。
褚染洲表示:“我們積極融入PC產業(yè)鏈條,能支持PC廠商從X86 CPU無縫切換到此芯P1芯片,并已與主流ODM廠商以及業(yè)內知名BIOS廠商展開意向合作。”
在客戶項目支持方面,褚染洲介紹,此芯科技建立了“以市場、支持、研發(fā)各團隊全面聯(lián)動為基礎,迅捷響應客戶要求,落實應用場景,快速解決問題,縮短產品開發(fā)周期”的客戶支持體系。
以軟促硬,推動AI PC行業(yè)創(chuàng)新
“硬件好比是我們的軀體,軟件則賦予了一顆芯片靈魂。”在AI PC軟件解決方案環(huán)節(jié),此芯科技聯(lián)合創(chuàng)始人、軟件工程副總裁劉剛說道。
此芯科技聯(lián)合創(chuàng)始人、軟件工程副總裁 劉剛
面對端側生成式AI帶來PC產業(yè)的變革與機遇,此芯科技重點聚焦啟動固件、內核、圖形加速以及AI方案四大方向進行全棧軟件創(chuàng)新。
在啟動固件層,此芯科技實現(xiàn)了通過一套固件支持多個操作系統(tǒng)和一套Linux內核同時支持ACPI、Device Tree兩個規(guī)范的重要突破。此芯P1成為全球為數(shù)不多的采用統(tǒng)一固件支持多桌面操作系統(tǒng)的產品。
為了能夠讓Arm GPU在PC端同樣達到極致的使用體驗,此芯科技自主設計了此芯GO圖形引擎,通過引入應用兼容層并在核心驅動層實現(xiàn)原創(chuàng)優(yōu)化,適配多種主流桌面環(huán)境、兼容傳統(tǒng)應用、支持OpenGL標準以及和不同多媒體框架協(xié)同等,一站式解決行業(yè)痛點。
此外,面對生成式AI端側部署存在的諸多問題與挑戰(zhàn),此芯科技未來將推出NeuralOne AI軟件棧,提供異構AI加速器支持,以滿足對于端側推理需求的多樣性和復雜性;同時,提供統(tǒng)一NerualOne API來隱藏具體的硬件細節(jié),降低應用程序編程難度。
對于模型與推理框架的碎片化,此芯NeuralOne提供統(tǒng)一的SDK滿足多引擎需求以及廣泛的模型格式支持。“Neural是神經網(wǎng)絡的意思,One代表統(tǒng)一。合在一起,我們希望通過此芯NeuralOne AI軟件棧充分發(fā)揮異構算力強大潛力,更好地幫助生態(tài)合作伙伴開發(fā)更強的AI應用。”劉剛表示。
軟硬協(xié)同 繁榮AI PC生態(tài)
此芯科技深知,生態(tài)建設非一朝之功,通過布局異構AI端側生態(tài)、打造Arm原生開發(fā)平臺、積極參與上游開源建設,以及推動產業(yè)聯(lián)盟和標準化,此芯科技希望能夠賦能開發(fā)者,用適合PC的方式建設PC新生態(tài),與開發(fā)者一起繁榮AI PC生態(tài)。
在圓桌論壇環(huán)節(jié),此芯科技生態(tài)戰(zhàn)略總經理周杰、安謀科技全球服務市場部總經理謝偉、聯(lián)想集團首席研究員顏毅強、麒麟軟件副總經理朱晨、阿里云通義端側業(yè)務負責人梁業(yè)金、清昴智能聯(lián)合創(chuàng)始人兼COO姚航等嘉賓圍繞軟硬協(xié)同,共論AI PC技術發(fā)展、應用場景以及產業(yè)發(fā)展的機會與挑戰(zhàn)。
圓桌論壇
謝偉表示:“多年來Arm一直深耕生態(tài),不僅是在手機端,在服務器端、PC端Arm架構CPU的性能已經和X86性能相當,完全可以承擔在AI PC上的計算任務。希望看到有更多類似此芯的AI PC芯片廠商,設計更多的產品投入市場。”
對混合人工智能對于產業(yè)的影響,顏毅強表示:“混合人工智能所帶來的產業(yè)價值非常大,相關的基礎設施、設備,以及底層支撐的算力,都有很大的市場空間。”
針對AI PC對于國內PC產業(yè)鏈的影響,朱晨表示:“生成式AI給PC產業(yè)注入了新的活力,給這個上層的應用帶來了新的想象空間。AI芯片第一次融入主板,搭配操作系統(tǒng)層面的AI子系統(tǒng),讓上層所有的應用都附帶了AI能力,帶來PC產業(yè)更高質量的發(fā)展。”
梁業(yè)金從推理引擎與硬件協(xié)同方面進行了討論,其表示:“在大模型百花齊放的今天,端上的算力不應該被浪費,應該被充分地應用。此芯推出了P1芯片,有很好的算力,豐富的接口。能不能把力用好,還需與上層推理引擎的設計協(xié)同,這需要業(yè)界的共同努力。”
對于大模型和硬件的匹配問題,姚航表示:“目前國內大模型數(shù)量眾多,同時AI PC的硬件計算單元呈現(xiàn)多元化的趨勢,如何解決大模型和硬件的匹配以及應用落地,離不開中間層伙伴的努力,需要所有的軟件伙伴從模型側、框架側、推理引擎?zhèn)?、硬件側軟硬協(xié)同做好模型和硬件的匹配。”
此芯科技AI PC產業(yè)鏈戰(zhàn)略合作啟動儀式
為了更好地進行AI PC產業(yè)鏈建設,此芯科技銷售副總裁陳杰峰邀請來自聯(lián)想集團、安謀科技、同方鼎欣、萬莫斯、統(tǒng)信軟件、麒麟軟件、江波龍、百敖軟件、無問芯穹等上下游產業(yè)鏈合作伙伴共同上臺,完成此芯科技AI PC產業(yè)鏈戰(zhàn)略合作啟動儀式,拉開此芯科技產品與合作伙伴合作的序幕,加速國內AI PC創(chuàng)新產品的商業(yè)化落地,推動產業(yè)實現(xiàn)可持續(xù)發(fā)展,推動新質生產力的發(fā)展,共創(chuàng)AI PC行業(yè)的輝煌未來。
好文章,需要你的鼓勵
新加坡國立大學研究團隊開發(fā)了SPIRAL框架,通過讓AI與自己對弈零和游戲來提升推理能力。實驗顯示,僅訓練AI玩簡單撲克游戲就能讓其數(shù)學推理能力提升8.6%,通用推理提升8.4%,且無需任何數(shù)學題目作為訓練材料。研究發(fā)現(xiàn)游戲中的三種推理模式能成功轉移到數(shù)學解題中,為AI訓練提供了新思路。
同濟大學團隊開發(fā)的GIGA-ToF技術通過融合多幀圖像的"圖結構"信息,創(chuàng)新性地解決了3D相機噪聲問題。該技術利用圖像間的不變幾何關系,結合深度學習和數(shù)學優(yōu)化方法,在合成數(shù)據(jù)集上實現(xiàn)37.9%的精度提升,并在真實設備上展現(xiàn)出色泛化能力,為機器人、AR和自動駕駛等領域提供更可靠的3D視覺解決方案。
伊利諾伊大學研究團隊通過對比實驗發(fā)現(xiàn),經過強化學習訓練的視覺語言模型雖然表現(xiàn)出"頓悟時刻"現(xiàn)象,但這些自我糾錯行為并不能實際提升推理準確率。研究揭示了AI模型存在"生成-驗證差距",即生成答案的能力強于驗證答案質量的能力,且模型在自我驗證時無法有效利用視覺信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機構聯(lián)合提出SparseLoRA技術,通過動態(tài)稀疏性實現(xiàn)大語言模型訓練加速1.6倍,計算成本降低2.2倍。該方法使用SVD稀疏性估計器智能選擇重要計算部分,在保持模型性能的同時顯著提升訓練效率,已在多個任務上驗證有效性。