這項(xiàng)由上海AI實(shí)驗(yàn)室聯(lián)合復(fù)旦大學(xué)和卡內(nèi)基梅隆大學(xué)的研究團(tuán)隊(duì)共同完成的重要研究，于2024年4月發(fā)表在計(jì)算機(jī)學(xué)習(xí)領(lǐng)域的頂級(jí)會(huì)議上。研究的主要作者包括來自上海AI實(shí)驗(yàn)室的陳藝成、李藝寧、胡凱、馬澤潤(rùn)、葉浩辰和陳凱等學(xué)者。這項(xiàng)名為"MIG: 通過最大化語義空間信息增益進(jìn)行指令調(diào)優(yōu)的自動(dòng)數(shù)據(jù)選擇"的研究，為人工智能訓(xùn)練數(shù)據(jù)的自動(dòng)化篩選提供了全新思路。有興趣深入了解的讀者可以通過項(xiàng)目主頁(yè) https://yichengchen24.github.io/projects/mig 訪問完整研究?jī)?nèi)容。

當(dāng)我們訓(xùn)練一個(gè)人工智能模型時(shí)，就像教導(dǎo)一個(gè)學(xué)生學(xué)習(xí)知識(shí)一樣。過去，人們普遍認(rèn)為給AI喂入越多數(shù)據(jù)越好，就好比給學(xué)生更多的練習(xí)冊(cè)。然而，研究人員逐漸發(fā)現(xiàn)，數(shù)據(jù)的質(zhì)量和多樣性遠(yuǎn)比單純的數(shù)量更為重要。正如一個(gè)學(xué)生需要精心挑選的高質(zhì)量習(xí)題來提升能力，而不是簡(jiǎn)單重復(fù)大量相似的練習(xí)一樣。

這個(gè)問題在AI訓(xùn)練領(lǐng)域變得越來越突出。目前市面上有大量開源的訓(xùn)練數(shù)據(jù)集，就像一個(gè)巨大的圖書館，里面有各種各樣的書籍。但是如何從這個(gè)龐大的圖書館中挑選出最適合特定學(xué)習(xí)目標(biāo)的書籍組合，一直是個(gè)技術(shù)難題。傳統(tǒng)的方法通常著重評(píng)估單個(gè)數(shù)據(jù)樣本的質(zhì)量，然后用一些簡(jiǎn)單的經(jīng)驗(yàn)規(guī)則來保持?jǐn)?shù)據(jù)的多樣性，就好比只看每本書的評(píng)分，然后簡(jiǎn)單地從不同書架上各拿幾本。

問題的核心在于，這種傳統(tǒng)方法缺乏對(duì)整個(gè)數(shù)據(jù)集合的全局理解。研究團(tuán)隊(duì)發(fā)現(xiàn)，現(xiàn)有的方法往往專注于距離計(jì)算或聚類分析，但這些方法無法準(zhǔn)確捕捉復(fù)雜指令在語義層面的真實(shí)意圖。這就像僅僅根據(jù)書籍的物理位置或封面顏色來選書，而忽略了書籍內(nèi)容之間的內(nèi)在關(guān)聯(lián)和互補(bǔ)性。

為了解決這個(gè)問題，研究團(tuán)隊(duì)提出了一個(gè)統(tǒng)一的方法來量化數(shù)據(jù)集的信息含量。他們的創(chuàng)新在于將語義空間建模為一個(gè)標(biāo)簽圖，并基于信息在圖中的分布來量化多樣性。這種方法被稱為MIG（最大化信息增益），它能夠迭代地選擇數(shù)據(jù)樣本以最大化語義空間中的信息增益。

研究團(tuán)隊(duì)的實(shí)驗(yàn)結(jié)果令人印象深刻。在各種數(shù)據(jù)集和基礎(chǔ)模型上，MIG方法始終優(yōu)于現(xiàn)有的最先進(jìn)方法。特別值得注意的是，使用MIG方法從Tulu3數(shù)據(jù)中篩選出僅5%的數(shù)據(jù)進(jìn)行訓(xùn)練的模型，其性能竟然能夠媲美使用完整數(shù)據(jù)集訓(xùn)練的官方模型。在AlpacaEval評(píng)估中提升了5.73%，在Wildbench評(píng)估中提升了6.89%。

一、語義空間建模：構(gòu)建AI理解的知識(shí)地圖

傳統(tǒng)的數(shù)據(jù)選擇方法就像在一個(gè)平面地圖上標(biāo)記地點(diǎn)，只能看到表面的距離關(guān)系。而研究團(tuán)隊(duì)的創(chuàng)新在于構(gòu)建了一個(gè)立體的語義知識(shí)地圖，這個(gè)地圖能夠展現(xiàn)不同概念和知識(shí)領(lǐng)域之間的深層聯(lián)系。

在這個(gè)新的建模方法中，每個(gè)數(shù)據(jù)標(biāo)簽被視為地圖上的一個(gè)節(jié)點(diǎn)，就像城市中的地標(biāo)建筑。而標(biāo)簽之間的語義關(guān)系則通過邊連接起來，形成了一個(gè)復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)。這種設(shè)計(jì)的巧妙之處在于，它不僅考慮了單個(gè)數(shù)據(jù)點(diǎn)的質(zhì)量，還充分考慮了不同數(shù)據(jù)點(diǎn)之間的語義關(guān)聯(lián)。

研究團(tuán)隊(duì)使用文本相似度來計(jì)算標(biāo)簽之間的邊權(quán)重，并設(shè)置了一個(gè)閾值來確保計(jì)算效率。當(dāng)兩個(gè)標(biāo)簽的相似度超過設(shè)定閾值時(shí)，它們之間就會(huì)建立連接。這個(gè)過程類似于在社交網(wǎng)絡(luò)中，只有足夠熟悉的朋友之間才會(huì)建立聯(lián)系。通過這種方式，整個(gè)語義空間被構(gòu)建成了一個(gè)加權(quán)無向圖，其中包含了豐富的語義關(guān)系信息。

在這個(gè)標(biāo)簽圖的基礎(chǔ)上，每個(gè)數(shù)據(jù)點(diǎn)的信息被分布到它所關(guān)聯(lián)的標(biāo)簽上，分布的程度與數(shù)據(jù)點(diǎn)的質(zhì)量分?jǐn)?shù)成正比。這就好比一個(gè)專家的知識(shí)會(huì)對(duì)他所專長(zhǎng)的多個(gè)領(lǐng)域都產(chǎn)生影響，而影響的程度取決于這個(gè)專家的權(quán)威性。為了解決語義重疊和標(biāo)注偏差的問題，研究團(tuán)隊(duì)還引入了信息傳播機(jī)制，讓信息能夠沿著標(biāo)簽圖的邊進(jìn)行傳播，從而實(shí)現(xiàn)更準(zhǔn)確的信息分布建模。

為了平衡質(zhì)量和多樣性，研究團(tuán)隊(duì)采用了一個(gè)單調(diào)遞增但邊際遞減的函數(shù)來計(jì)算標(biāo)簽信息。這種設(shè)計(jì)的智慧在于，它能夠促進(jìn)多樣性，防止數(shù)據(jù)過度集中在特定標(biāo)簽上。就像投資組合理論中的分散投資原則一樣，這種方法確保了信息在不同語義領(lǐng)域之間的均衡分布。

二、信息增益最大化：智能篩選的核心算法

基于語義空間建模的基礎(chǔ)，研究團(tuán)隊(duì)開發(fā)了MIG采樣算法，這個(gè)算法的核心思想是迭代式地選擇能夠最大化信息增益的數(shù)據(jù)點(diǎn)。整個(gè)過程就像一個(gè)智能圖書管理員，不斷從龐大的藏書中挑選出最能豐富圖書館整體知識(shí)結(jié)構(gòu)的書籍。

算法的運(yùn)作原理相當(dāng)巧妙。在每一輪選擇中，系統(tǒng)會(huì)計(jì)算當(dāng)前已選擇數(shù)據(jù)集的狀態(tài)，然后評(píng)估每個(gè)候選數(shù)據(jù)點(diǎn)如果被加入后能帶來多少信息增益。這個(gè)過程通過梯度近似的方法來實(shí)現(xiàn)，大大提高了計(jì)算效率。研究團(tuán)隊(duì)證明了他們提出的數(shù)據(jù)集度量函數(shù)具有子模性質(zhì)，這為貪婪算法的有效性提供了理論保證。

具體的實(shí)現(xiàn)過程中，算法首先初始化一個(gè)空的選擇集合和傳播矩陣。然后在每次迭代中，系統(tǒng)計(jì)算當(dāng)前狀態(tài)下的梯度，選擇能帶來最大信息增益的數(shù)據(jù)點(diǎn)，并更新選擇集合。這個(gè)過程一直持續(xù)到達(dá)到預(yù)設(shè)的數(shù)據(jù)預(yù)算為止。整個(gè)算法的時(shí)間復(fù)雜度相對(duì)較低，這使得它能夠處理大規(guī)模的數(shù)據(jù)集。

與傳統(tǒng)的基于嵌入的方法相比，MIG算法在采樣效率上有了顯著提升。傳統(tǒng)方法需要進(jìn)行大量的成對(duì)距離計(jì)算，這在處理大規(guī)模數(shù)據(jù)時(shí)會(huì)帶來巨大的計(jì)算開銷。而MIG方法通過在高層語義空間中進(jìn)行操作，大大減少了計(jì)算復(fù)雜度，在Tulu3數(shù)據(jù)池上的采樣時(shí)間比基于嵌入的方法減少了100多倍。

算法的另一個(gè)重要特點(diǎn)是它的自適應(yīng)性。在選擇過程中，系統(tǒng)會(huì)根據(jù)當(dāng)前已選擇數(shù)據(jù)的語義分布情況，動(dòng)態(tài)調(diào)整后續(xù)數(shù)據(jù)的選擇策略。這種自適應(yīng)機(jī)制確保了最終選擇的數(shù)據(jù)集在語義空間中具有良好的覆蓋性和多樣性。

三、實(shí)驗(yàn)驗(yàn)證：全面的性能測(cè)試

為了驗(yàn)證MIG方法的有效性，研究團(tuán)隊(duì)進(jìn)行了大規(guī)模的實(shí)驗(yàn)驗(yàn)證。他們選擇了三個(gè)不同特性的數(shù)據(jù)池進(jìn)行測(cè)試：Tulu3是一個(gè)包含百萬級(jí)記錄的大規(guī)模真實(shí)世界訓(xùn)練數(shù)據(jù)集，涵蓋數(shù)學(xué)、編程和用戶對(duì)話等多個(gè)領(lǐng)域；Openhermes2.5包含超過100萬個(gè)數(shù)據(jù)點(diǎn)，來源于16個(gè)不同的數(shù)據(jù)源；Xsota是一個(gè)由30萬高質(zhì)量對(duì)話數(shù)據(jù)組成的組合數(shù)據(jù)池。

實(shí)驗(yàn)的評(píng)估體系非常全面，包括了人類偏好基準(zhǔn)和知識(shí)基準(zhǔn)兩大類。人類偏好基準(zhǔn)主要評(píng)估模型在開放式對(duì)話能力方面的表現(xiàn)，使用了AlpacaEvalv2、MTBench和WildBench三個(gè)標(biāo)準(zhǔn)測(cè)試。知識(shí)基準(zhǔn)則評(píng)估模型在事實(shí)知識(shí)、推理、編程、數(shù)學(xué)和指令跟隨等方面的能力，包括ARC、Big-Bench-Hard、MMLU、HumanEval、GSM8k和IFEval六個(gè)測(cè)試。

實(shí)驗(yàn)結(jié)果顯示，MIG方法在各項(xiàng)測(cè)試中都表現(xiàn)出色。以Llama3.1-8B作為基礎(chǔ)模型的實(shí)驗(yàn)中，MIG在知識(shí)基準(zhǔn)上平均提升了1.49%，在人類偏好基準(zhǔn)上平均提升了1.96%。更令人印象深刻的是，使用MIG方法從Tulu3數(shù)據(jù)中選擇的5%數(shù)據(jù)訓(xùn)練的模型，其性能超過了使用完整數(shù)據(jù)集訓(xùn)練的官方模型，在人類偏好評(píng)估中提升了4.59%。

跨模型的實(shí)驗(yàn)結(jié)果進(jìn)一步證明了MIG方法的普適性。在Mistral-7B和Qwen2.5-7B等不同架構(gòu)的基礎(chǔ)模型上，MIG都能保持穩(wěn)定的性能提升，平均改進(jìn)分別達(dá)到了1.85%和1.31%。這種一致性表明MIG方法具有良好的泛化能力，不依賴于特定的模型架構(gòu)。

數(shù)據(jù)規(guī)模實(shí)驗(yàn)展示了MIG方法的可擴(kuò)展性。研究團(tuán)隊(duì)測(cè)試了從小規(guī)模到大規(guī)模不同數(shù)據(jù)預(yù)算下的性能表現(xiàn)，發(fā)現(xiàn)MIG在各個(gè)規(guī)模下都能保持優(yōu)勢(shì)。特別值得注意的是，使用僅2萬個(gè)樣本的MIG選擇數(shù)據(jù)就能達(dá)到與完整數(shù)據(jù)集相當(dāng)?shù)男阅埽@大大提高了訓(xùn)練效率。

四、參數(shù)分析：深入理解算法機(jī)制

研究團(tuán)隊(duì)對(duì)MIG算法中的關(guān)鍵參數(shù)進(jìn)行了詳細(xì)分析，這些分析為算法的實(shí)際應(yīng)用提供了重要指導(dǎo)。信息得分函數(shù)是算法中最重要的組件之一，它直接影響質(zhì)量和多樣性之間的平衡。研究團(tuán)隊(duì)測(cè)試了兩種候選函數(shù)：指數(shù)函數(shù)和冪函數(shù)，最終發(fā)現(xiàn)冪函數(shù)在各種評(píng)估中表現(xiàn)最佳。

質(zhì)量度量的選擇也對(duì)算法性能有顯著影響。研究團(tuán)隊(duì)比較了標(biāo)簽數(shù)量、IFD分?jǐn)?shù)和DEITA分?jǐn)?shù)三種不同的質(zhì)量評(píng)估方法，發(fā)現(xiàn)DEITA分?jǐn)?shù)在人類偏好和知識(shí)基準(zhǔn)評(píng)估中都表現(xiàn)最優(yōu)。這個(gè)發(fā)現(xiàn)為實(shí)際應(yīng)用中的質(zhì)量評(píng)估提供了明確的指導(dǎo)。

標(biāo)簽圖的構(gòu)建是另一個(gè)關(guān)鍵因素。研究團(tuán)隊(duì)探索了不同節(jié)點(diǎn)數(shù)量和邊密度對(duì)下游性能的影響。實(shí)驗(yàn)結(jié)果顯示，標(biāo)簽集大小和邊連接閾值都存在最優(yōu)值，過大或過小都會(huì)影響性能。對(duì)于Tulu3數(shù)據(jù)池，最優(yōu)的標(biāo)簽集大小為4531，邊相似度閾值為0.9。

信息傳播機(jī)制的強(qiáng)度也需要仔細(xì)調(diào)節(jié)。研究團(tuán)隊(duì)測(cè)試了不同傳播權(quán)重參數(shù)的效果，發(fā)現(xiàn)適當(dāng)?shù)男畔鞑ツ軌蝻@著提升性能。當(dāng)傳播權(quán)重設(shè)為1.0時(shí)，相比無傳播情況，平均性能提升了2.76%。這證明了信息傳播機(jī)制在準(zhǔn)確建模語義空間信息分布方面的重要作用。

網(wǎng)格搜索實(shí)驗(yàn)幫助確定了最優(yōu)的數(shù)據(jù)規(guī)模和訓(xùn)練輪次組合。對(duì)于Tulu3數(shù)據(jù)池，50K樣本配合三個(gè)訓(xùn)練輪次被證明是最優(yōu)配置，這個(gè)配置在MIG和隨機(jī)選擇方法中都能獲得最佳性能。

五、效率優(yōu)勢(shì)：實(shí)用性的重要考量

在實(shí)際應(yīng)用中，算法的計(jì)算效率往往是決定其可行性的關(guān)鍵因素。MIG方法在這方面表現(xiàn)出了顯著優(yōu)勢(shì)。傳統(tǒng)的基于嵌入的多樣性度量方法需要計(jì)算高維空間中的成對(duì)距離，這在處理大規(guī)模數(shù)據(jù)時(shí)會(huì)帶來巨大的存儲(chǔ)和計(jì)算開銷。

相比之下，MIG方法通過在高層語義空間中操作，大大降低了計(jì)算復(fù)雜度。在從Tulu3數(shù)據(jù)池中選擇5萬個(gè)樣本的實(shí)驗(yàn)中，MIG方法僅需要0.45個(gè)GPU小時(shí)，而QDIT和DEITA等基于嵌入的方法分別需要86.17和81.56個(gè)GPU小時(shí)。這種效率提升使得MIG方法在實(shí)際應(yīng)用中更具可行性。

算法的高效性主要來源于幾個(gè)方面。首先，標(biāo)簽圖的規(guī)模遠(yuǎn)小于原始數(shù)據(jù)規(guī)模，這減少了計(jì)算和存儲(chǔ)需求。其次，梯度近似方法避免了復(fù)雜的優(yōu)化過程，加快了每輪選擇的速度。最后，子模性質(zhì)保證了貪婪算法的有效性，無需進(jìn)行全局搜索。

這種效率優(yōu)勢(shì)使得MIG方法能夠應(yīng)用于更大規(guī)模的數(shù)據(jù)集和更復(fù)雜的應(yīng)用場(chǎng)景。在實(shí)際的工業(yè)應(yīng)用中，這種計(jì)算效率的提升可以轉(zhuǎn)化為顯著的成本節(jié)約和時(shí)間節(jié)省。

六、理論基礎(chǔ)：算法的數(shù)學(xué)保證

MIG方法的有效性不僅得到了實(shí)驗(yàn)驗(yàn)證，還有堅(jiān)實(shí)的理論基礎(chǔ)支撐。研究團(tuán)隊(duì)證明了他們提出的數(shù)據(jù)集度量函數(shù)具有子模性質(zhì)，這為貪婪算法提供了重要的性能保證。

子模性是一個(gè)重要的數(shù)學(xué)性質(zhì)，它類似于經(jīng)濟(jì)學(xué)中的邊際效用遞減原理。在MIG的情況下，這意味著添加新數(shù)據(jù)點(diǎn)帶來的信息增益會(huì)隨著已選擇數(shù)據(jù)集的增大而遞減。這個(gè)性質(zhì)確保了貪婪算法能夠找到接近最優(yōu)的解。

具體來說，對(duì)于任何子集，添加相同元素到較小子集中帶來的增益總是大于或等于添加到較大子集中的增益。研究團(tuán)隊(duì)通過數(shù)學(xué)推導(dǎo)證明了這個(gè)性質(zhì)在他們的信息度量函數(shù)中成立。這個(gè)證明基于單調(diào)遞增且凹函數(shù)的性質(zhì)，以及信息傳播機(jī)制的線性特性。

基于子模性質(zhì)，研究團(tuán)隊(duì)證明了貪婪算法能夠獲得至少(1-1/e)倍最優(yōu)解的近似保證。這個(gè)理論結(jié)果意味著，即使無法找到全局最優(yōu)解，MIG算法也能保證找到質(zhì)量相當(dāng)不錯(cuò)的解。在計(jì)算復(fù)雜性理論中，假設(shè)P≠NP，這已經(jīng)是多項(xiàng)式時(shí)間算法能夠達(dá)到的最佳近似比。

這種理論保證為MIG方法的實(shí)際應(yīng)用提供了信心。用戶可以確信，即使在面對(duì)復(fù)雜的大規(guī)模數(shù)據(jù)選擇問題時(shí)，算法也能夠提供質(zhì)量可靠的解決方案。

七、實(shí)際應(yīng)用：方法的廣泛適用性

MIG方法的設(shè)計(jì)考慮了實(shí)際應(yīng)用中的各種需求和約束。研究團(tuán)隊(duì)在多個(gè)不同類型的數(shù)據(jù)池上進(jìn)行了測(cè)試，證明了方法的廣泛適用性。從小規(guī)模的精選數(shù)據(jù)集到大規(guī)模的綜合數(shù)據(jù)集，MIG都能夠保持穩(wěn)定的性能提升。

在實(shí)際部署中，MIG方法可以很容易地集成到現(xiàn)有的AI訓(xùn)練流水線中。算法的輸入包括原始數(shù)據(jù)池、標(biāo)簽集和采樣預(yù)算，輸出是經(jīng)過優(yōu)化選擇的訓(xùn)練數(shù)據(jù)集。這種簡(jiǎn)潔的接口設(shè)計(jì)使得方法能夠與各種現(xiàn)有系統(tǒng)兼容。

方法的模塊化設(shè)計(jì)也為定制化應(yīng)用提供了靈活性。用戶可以根據(jù)具體應(yīng)用場(chǎng)景調(diào)整質(zhì)量評(píng)估方法、標(biāo)簽圖構(gòu)建策略和信息傳播參數(shù)。這種靈活性使得MIG能夠適應(yīng)不同領(lǐng)域和不同類型的數(shù)據(jù)選擇需求。

研究團(tuán)隊(duì)還提供了詳細(xì)的實(shí)現(xiàn)指南和參數(shù)調(diào)優(yōu)建議，幫助實(shí)際應(yīng)用者快速上手。他們開源了核心算法代碼，并提供了在不同數(shù)據(jù)集上的配置示例。這些資源大大降低了方法的應(yīng)用門檻。

從長(zhǎng)遠(yuǎn)來看，MIG方法的思想還可以擴(kuò)展到其他類型的數(shù)據(jù)選擇問題。比如在多模態(tài)學(xué)習(xí)、強(qiáng)化學(xué)習(xí)和聯(lián)邦學(xué)習(xí)等場(chǎng)景中，類似的語義空間建模和信息增益最大化思想都可能帶來性能提升。

總的來說，這項(xiàng)來自上海AI實(shí)驗(yàn)室的研究為AI訓(xùn)練數(shù)據(jù)的自動(dòng)化選擇提供了一個(gè)既有理論基礎(chǔ)又有實(shí)用價(jià)值的解決方案。通過巧妙地將語義空間建模與信息論相結(jié)合，MIG方法不僅在多個(gè)基準(zhǔn)測(cè)試中表現(xiàn)出色，還具有良好的計(jì)算效率和廣泛的適用性。

研究的意義遠(yuǎn)不止于技術(shù)層面的進(jìn)步。隨著AI模型變得越來越復(fù)雜，訓(xùn)練成本也在不斷攀升。MIG方法通過提高數(shù)據(jù)選擇的效率和效果，能夠在保持甚至提升模型性能的同時(shí)顯著降低訓(xùn)練成本。這對(duì)于推動(dòng)AI技術(shù)的普及和應(yīng)用具有重要意義。

當(dāng)然，研究團(tuán)隊(duì)也坦誠(chéng)地指出了當(dāng)前方法的局限性。算法中的參數(shù)目前需要通過網(wǎng)格搜索來確定最優(yōu)值，這在某種程度上限制了方法的自動(dòng)化程度。未來的研究方向可能包括開發(fā)自適應(yīng)參數(shù)調(diào)整機(jī)制，為每個(gè)標(biāo)簽定制專門的信息得分函數(shù)，以進(jìn)一步提升方法的靈活性和可擴(kuò)展性。

這項(xiàng)研究代表了AI訓(xùn)練數(shù)據(jù)選擇領(lǐng)域的一個(gè)重要進(jìn)步，它將質(zhì)量評(píng)估和多樣性優(yōu)化統(tǒng)一在一個(gè)框架內(nèi)，為構(gòu)建更高效、更智能的AI訓(xùn)練系統(tǒng)奠定了基礎(chǔ)。隨著更多研究者和開發(fā)者開始采用這種方法，我們有理由期待AI模型的訓(xùn)練效率和效果將得到進(jìn)一步提升。

Q&A

Q1：MIG方法是什么？它解決了什么問題？ A：MIG是一種AI訓(xùn)練數(shù)據(jù)自動(dòng)篩選方法，全稱"最大化信息增益"。它解決了傳統(tǒng)方法無法同時(shí)兼顧數(shù)據(jù)質(zhì)量和多樣性的問題。就像從圖書館中挑選最佳書籍組合一樣，MIG能夠智能地從海量訓(xùn)練數(shù)據(jù)中選出最有價(jià)值的部分，用更少的數(shù)據(jù)達(dá)到更好的訓(xùn)練效果。

Q2：使用MIG方法會(huì)不會(huì)大幅降低AI模型的性能？ A：不會(huì)，恰恰相反。實(shí)驗(yàn)顯示，使用MIG選擇的僅5%數(shù)據(jù)訓(xùn)練的模型，性能竟然超過了用完整數(shù)據(jù)集訓(xùn)練的官方模型。在多項(xiàng)評(píng)估中平均提升1-6%不等。這證明了精心選擇的少量高質(zhì)量數(shù)據(jù)比大量普通數(shù)據(jù)更有效。

Q3：MIG方法的計(jì)算效率如何？普通研究者能用嗎？ A：MIG的計(jì)算效率非常高，比傳統(tǒng)方法快100多倍。在大規(guī)模數(shù)據(jù)處理中，傳統(tǒng)方法需要80多個(gè)GPU小時(shí)，而MIG只需要0.45個(gè)GPU小時(shí)。研究團(tuán)隊(duì)已經(jīng)開源了代碼和詳細(xì)指南，大大降低了使用門檻，普通研究者也能輕松上手。