12月20日,“‘智’啟‘質’成 AI Agent激發(fā)新質生產力暨2023瀾碼科技產品發(fā)布會”在上海漕河涇會議中心成功舉辦。
上海市徐匯區(qū)科學技術委員會主任、信息委主任、黨組書記張寧出席發(fā)布會并致辭,上海市徐匯區(qū)虹梅街道黨工委書記、人大工委主任范潤生,漕河涇開發(fā)總公司董事長顧倫,漕河涇開發(fā)總公司副總經理薛晗,以及中國電信、英特爾中國、中國銀聯、上汽研發(fā)總院、太平保險、金光集團app(中國)、CGL等瀾碼科技眾多生態(tài)合作伙伴及客戶出席發(fā)布會。
作為國內最早賦能大語言模型應用落地的Agent平臺公司,瀾碼科技首次正式對外發(fā)布瀾碼AI Agent平臺AskXBOT,多個通過AI Agent實現大模型應用落地的先鋒企業(yè)和業(yè)內知名專家分享了他們的實踐與行業(yè)洞察。
瀾碼正式推出AskXBOT,可快速定制企業(yè)級AI Agent
大語言模型的熱度,幾乎貫穿了整個2023年。
瀾碼科技創(chuàng)始人兼CEO周健談到:“2023年是大語言模型的元年,2024年將是AI Agent的爆發(fā)年,AI Agent是大語言模型優(yōu)先落地的最佳形態(tài)。”
在發(fā)布會現場,瀾碼科技正式發(fā)布了自主研發(fā)的AI Agent平臺“AskXBOT”。
周健介紹,瀾碼AskXBOT平臺由設計器、知識中心、使用端、管理平臺四大核心模塊構成,將大語言模型能力抽象為文檔檢索、AI調用、數據查詢、智能編程等能力,是基于LLM的Agent與工作流設計、開發(fā)、使用、管理、知識沉淀的一站式平臺,讓專家知識賦能基層業(yè)務單元。
設計器具有預置多種Agent模版、2分鐘高效創(chuàng)建Agent、靈活配置滿足企業(yè)個性需求、所見即所得的預覽調試,以及輕松對接瀾碼仿真平臺五大特色。
此外,工作流設計器通過多種多模態(tài)模型集成、常用能力封裝、靈活豐富的組件提供,幫助企業(yè)快速定制個性化AI工作流。
知識庫可實現Agent輔助知識治理,配合專家知識數字化沉淀;專家知識賦能Agent與工作流,形成良性閉環(huán)。
使用端通過Agent與企業(yè)系統的集成,業(yè)務人員可以隨時隨地通過自然語言使用智能體,結合界面交互更直觀查看過程與結果。Agent CUI界面支持實時對話獲取并即時回復,提供知識推理問答、數據查詢分析、任務理解執(zhí)行等多種技能。工作流GUI界面支持AI工作流批量完成重復任務,智能動態(tài)決策進一步降低人工參與成本,過程透明隨時隨地審查運行結果。
管理平臺可以查看和管理所有企業(yè)內的Agent與工作流,包括狀態(tài)管理、權限管理、使用情況查看;允許將Agent和工作流發(fā)布作為服務調用,對外開放API,提供API key管理能力,所有調用記錄可在管理平臺統一查看、統一管理。
為了更直觀地解釋AskXBOT平臺的各項功能和易用性,瀾碼科技產品經理還在發(fā)布會直接接入AskXBOT平臺,現場演示了如何在真實生產環(huán)境下輕松構建一個Agent。
周健認為,在高度不確定性的今天,以大模型能力為底座的 AI Agent 將極大滿足企業(yè)自動化數字化升級需求,徹底改變企業(yè)形態(tài)。“瀾碼AskXBOT平臺作為一個軟件自動化超級平臺,期望能夠重構AI時代軟件生態(tài)。”周健說。
瀾碼高效構建AI Agent的三步走法則
當前,新質生產力被認為是推動經濟高質量發(fā)展的新引擎。新質生產力以勞動者、勞動資料、勞動對象及其優(yōu)化組合的質變?yōu)榛緝群?,以全要素生產率提升為核心標志。
在瀾碼科技的視角下,新質生產力很重要的一個載體其實就是 AI Agent。
周健在發(fā)布會中談到,今天因為有了大語言模型,AI可以增強勞動力,甚至成為新的勞動資料。但是通用大模型在實際執(zhí)行過程中,會遇到各種各樣的環(huán)境問題,這時候就需要一個行動系統或具身智能來解決這些問題。
“我們希望AI Agent成為人與真實世界環(huán)境的交互媒介,成為人與系統之間的連接器,甚至作為管理者與基礎員工、專家與基礎員工,基礎員工之間的連接器。”周健說。
在過去近一年的實踐探索中,瀾碼總結了AI Agent落地時面臨的各種挑戰(zhàn),比如現有系統改造和集成投入、Agent響應速度慢、數據權限把控難、多Agent的集成和調度等等。
“信息化是數字化的前提,數字化是智能化的前提。如果沒有把專家知識數字化下來,那么AI Agent的落地會有很大困難。”周健說。
為了更好地讓AI Agent賦能各行各業(yè),瀾碼科技提出了三步走的AI Agent 構建法則:第一步,專家知識的數字化;第二步,基于CUI的柔性交互;第三步,領域知識的循環(huán)沉淀。
作為瀾碼AskXBOT平臺的早期用戶,美服數字CTO韓亞偉現身說法,在現場分享了美服數字如何借助瀾碼AI Agent平臺調用大語言模型能力解決業(yè)務挑戰(zhàn)。
美服數字聚焦泛美行業(yè),提供現代化經營、管理、組織、教育、集合平臺五大產線及解決方案服務。在采用AskXBOT平臺之前,美服數字的咨詢顧問每天只能提供有限的咨詢服務?,F在,美服數字在直播時,可以由AI Agent回答粉絲提問,專家可以在后臺判斷問題回答的好壞并進行答案優(yōu)化,從而實現高效答疑和獲客。
美服數字CTO韓亞偉
“借助瀾碼AskXBOT平臺,我們通過AI Agent解決業(yè)務挑戰(zhàn),實現營銷分析,促進直播獲客,大大提升了整體效能。”韓亞偉說。
愛分析聯合創(chuàng)始人兼首席分析師李喆在演講中談到,2024年企業(yè)采用大語言模型的首要目標是降低企業(yè)運營成本,這是一個可行方向;其次是產品服務體驗創(chuàng)新,提升客戶需求響應速度、業(yè)務收入增長,支持公司AI戰(zhàn)略等。他預測,2024年大模型市場規(guī)模120億,同時,AI Agent能力建設和應用建設并行,建設和運營將同等重要。
好文章,需要你的鼓勵
新加坡國立大學研究團隊開發(fā)了SPIRAL框架,通過讓AI與自己對弈零和游戲來提升推理能力。實驗顯示,僅訓練AI玩簡單撲克游戲就能讓其數學推理能力提升8.6%,通用推理提升8.4%,且無需任何數學題目作為訓練材料。研究發(fā)現游戲中的三種推理模式能成功轉移到數學解題中,為AI訓練提供了新思路。
同濟大學團隊開發(fā)的GIGA-ToF技術通過融合多幀圖像的"圖結構"信息,創(chuàng)新性地解決了3D相機噪聲問題。該技術利用圖像間的不變幾何關系,結合深度學習和數學優(yōu)化方法,在合成數據集上實現37.9%的精度提升,并在真實設備上展現出色泛化能力,為機器人、AR和自動駕駛等領域提供更可靠的3D視覺解決方案。
伊利諾伊大學研究團隊通過對比實驗發(fā)現,經過強化學習訓練的視覺語言模型雖然表現出"頓悟時刻"現象,但這些自我糾錯行為并不能實際提升推理準確率。研究揭示了AI模型存在"生成-驗證差距",即生成答案的能力強于驗證答案質量的能力,且模型在自我驗證時無法有效利用視覺信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機構聯合提出SparseLoRA技術,通過動態(tài)稀疏性實現大語言模型訓練加速1.6倍,計算成本降低2.2倍。該方法使用SVD稀疏性估計器智能選擇重要計算部分,在保持模型性能的同時顯著提升訓練效率,已在多個任務上驗證有效性。