在人工智能快速發(fā)展的今天，大語言模型（LLMs）的進步令人矚目。2025年5月，來自羅馬薩皮恩扎大學和洛桑聯(lián)邦理工學院的研究團隊發(fā)布了一項創(chuàng)新工具——Mergenetic，這是一個開源的進化式模型合并庫。該研究由Adrian Robert Minut、Tommaso Mencattini（兩位第一作者貢獻相同）、Andrea Santilli、Donato Crisostomi和Emanuele Rodolà共同完成，論文發(fā)表在arXiv預印本平臺（arXiv:2505.11427v1）。感興趣的讀者可以通過GitHub鏈接（https://github.com/tommasomncttn/mergenetic）訪問這個項目。

想象一下，如果你有幾個各自擅長不同任務的大語言模型，是否可以像搭積木一樣把它們的優(yōu)點組合起來，創(chuàng)造一個全能選手？這正是模型合并（Model Merging）技術的核心理念。就像廚師將不同食材的精華融合成一道美味佳肴，模型合并允許研究人員將已有模型的能力無縫結合，而不需要從頭訓練。這種方法不僅節(jié)省了計算資源，而且在實踐中展現(xiàn)出驚人的效果——目前在Hugging Face開放大語言模型排行榜上，約30%的模型都是通過合并技術創(chuàng)建的。

然而，找到最佳的"合并配方"并不容易。就像烹飪中需要反復試驗調(diào)整配料比例才能找到最佳口感一樣，簡單地將模型混合在一起通常無法達到最佳效果。這時，進化算法（Evolutionary Algorithms）閃亮登場。這些算法模擬了自然界的進化過程，通過反復嘗試不同的合并參數(shù)，選擇表現(xiàn)最好的"后代"，并繼續(xù)改進，最終找到最優(yōu)的合并策略。

雖然這種進化式模型合并方法已被證明非常有效，但研究人員面臨兩個關鍵挑戰(zhàn)：首先，目前沒有專門的工具庫支持在語言模型中靈活嘗試不同的進化算法和合并方法；其次，這些方法通常需要在進化數(shù)據(jù)集上重復評估以計算適應度函數(shù)，這使得整個過程比標準合并技術更耗費計算資源。這些限制阻礙了許多研究人員和愛好者嘗試這種強大的技術。

Mergenetic正是為解決這些問題而生。這個工具庫建立在流行的MergeKit和PyMoo進化框架之上，提供了四大核心功能。第一，它支持19種進化算法和6種合并策略，包括經(jīng)典的遺傳算法和最先進的NSGA-II等多目標優(yōu)化方法。第二，為了減少適應度評估的計算負擔，它支持數(shù)據(jù)集抽樣和先進的近似技術，使得即使在普通消費級GPU上也能高效進行評估。第三，它與LM-Eval-Harness無縫集成，提供超過8000個任務和指標用于適應度計算，同時用戶也可以定義自己的適應度函數(shù)。第四，它提供了靈活的Python API、命令行界面和圖形用戶界面，使得從專業(yè)研究人員到普通愛好者都能輕松上手。

作為一個比喻，Mergenetic就像是一位經(jīng)驗豐富的調(diào)酒師，通過不斷嘗試不同的配方比例，最終調(diào)制出一杯口感絕佳的混合雞尾酒。而傳統(tǒng)的模型合并則更像是按照固定配方混合飲料，雖然簡單，但往往無法達到最佳效果。這個工具庫的目標是讓每個人都能成為"AI調(diào)酒師"，即使只有一臺普通電腦，也能調(diào)制出專業(yè)水準的大語言模型"雞尾酒"。

讓我們更深入地了解Mergenetic的工作原理和設計思路。

一、背景與相關工作

在深入Mergenetic之前，我們需要理解模型合并和進化算法這兩個基礎概念。

模型合并，顧名思義，是將多個已訓練好的模型組合成一個新模型的技術。想象你有幾個朋友，每個人都在某一方面特別擅長：有人數(shù)學好，有人文學好，有人善于解決邏輯問題。模型合并就像是把這些朋友的知識和技能以某種方式融合到一起，創(chuàng)造出一個"全能型朋友"，而不需要花費大量時間重新培養(yǎng)一個人的所有能力。

在AI領域，模型合并已經(jīng)成為一種強大且高效的替代方案，它避免了傳統(tǒng)集成學習（將多個模型的預測結果取平均）的計算開銷。Mergenetic專注于多任務場景，旨在合并同一個預訓練模型的不同微調(diào)版本。例如，我們可能有一個基礎模型，它分別被微調(diào)用于解決數(shù)學問題、翻譯不同語言和創(chuàng)作詩歌。通過合并這些專精模型，我們可以得到一個能同時勝任這些任務的綜合模型。

進化算法則是一類受自然進化啟發(fā)的優(yōu)化技術。想象一下野生動物如何適應環(huán)境：每一代中，那些更適應環(huán)境的個體有更高的機會存活并繁殖，將自己的基因傳遞給下一代。隨著時間推移，整個種群變得越來越適應環(huán)境。進化算法模擬了這一過程，它操作一組候選方案（稱為"種群"），通過選擇、突變、重組和交叉等操作使其"進化"。

在進化算法中，適應度函數(shù)是一個關鍵組件，它量化每個候選方案的質(zhì)量，引導進化過程偏向表現(xiàn)更好的解決方案。應用到模型合并上，進化式合并技術自動搜索有效的合并配方，使用合并模型在驗證數(shù)據(jù)集上的表現(xiàn)作為適應度函數(shù)。

與其他庫相比，Mergenetic最相近的是MergeKit，它提供了基礎的合并策略（如TIES、DARE、SLERP等）。但在搜索能力方面，MergeKit僅支持一種進化算法（CMA-ES），限制了在優(yōu)化過程中的靈活性。更重要的是，MergeKit假設適應度函數(shù)必須在完整評估數(shù)據(jù)集上計算，大大增加了運行時間和計算需求，使整個過程在消費級GPU上幾乎不可行。相比之下，Mergenetic支持子采樣評估和先進的適應度估計技術，顯著降低了評估成本，使高質(zhì)量合并能夠在單個GPU上高效進行。

二、設計原則與系統(tǒng)架構

Mergenetic的設計反映了它支持廣泛進化模型合并實驗的目標，特別是在消費級硬件上。它遵循三個關鍵設計原則：研究導向、用戶友好和計算效率。

從研究角度看，Mergenetic希望研究人員能夠輕松探索和比較不同的進化算法、合并策略和優(yōu)化目標。它不會將用戶限制在固定的方法中，而是支持靈活混搭合并方法（如TIES、DARE等）、進化算法（如GA、NSGA-II等）和評估后端。這種模塊化設計支持系統(tǒng)性實驗，例如比較單目標與多目標合并，或測試不同數(shù)據(jù)采樣策略。

為了讓各種背景的用戶都能使用這一技術，Mergenetic設計為既配置中心化又用戶友好。用戶可以通過簡單的YAML文件、命令行界面或交互式圖形界面定義合并、任務、算法和評估器，最大程度減少大型實驗通常需要的工程開銷。該庫針對消費級GPU進行了優(yōu)化，支持近似評估方法（如基于IRT的估計器）、數(shù)據(jù)集子采樣和部分模型加載。

從功能上看，Mergenetic可以分為五個核心模塊：工作流定義（Python API、CLI、GUI）、執(zhí)行合并（Merger）、制定優(yōu)化問題（Optimization）、評估合并模型（Evaluator）和協(xié)調(diào)進化循環(huán)（Searcher）。每個模塊都有明確的職責，共同構成了一個完整的進化模型合并系統(tǒng)。

三、Mergenetic的四大組件

讓我們深入了解Mergenetic的四個核心組件：接口、合并器、優(yōu)化器和評估器。

Mergenetic提供了三種交互方式：Python API、命令行界面（CLI）和圖形用戶界面（GUI）。Python API最為靈活，適合希望自定義合并工作流的高級用戶。用戶可以實例化一個優(yōu)化問題（如合并多個語言模型），從PyMoo選擇一個算法，然后調(diào)用searcher.search()啟動進化過程。一個典型的工作流程包括：定義評估數(shù)據(jù)集和相關性能指標，實例化一個Merger指定如何組合權重，將這些傳遞給MergingProblem類（描述進化搜索空間和目標），選擇一個遺傳算法（如NSGA-II、GA、DE等），運行搜索，然后可以選擇對最佳方案調(diào)用.test()進行測試。

對于那些不想手動編寫腳本的用戶，Mergenetic CLI是一個不錯的選擇。它通過交互式向導引導用戶選擇模型、任務、算法和合并方法。這種方式讓用戶快速原型化合并，無需編寫代碼。而基于Gradio的圖形界面則提供了更直觀的操作方式，特別適合非技術用戶，它以分步向導形式引導用戶：加載基礎模型、指定任務/語言、設置進化參數(shù)，以及實時記錄運行合并的全過程。

合并器（Merger）模塊負責處理核心的權重組合邏輯，通過與MergeKit接口實現(xiàn)。每個合并器類（如SlerpMerger、TiesDareMerger、TaskArithmeticMerger）生成一個YAML配置，指定基礎檢查點、插值方法和合并系數(shù)。該配置傳遞給MergeKit，后者執(zhí)行實際合并并生成新的模型檢查點。合并器支持標準和多模型合并，包括像TIES結合DARE這樣的高級策略。在優(yōu)化過程中，進化算法提出權重組合，合并器將其轉換為準備評估的實際模型。

在Mergenetic的核心，優(yōu)化模塊將模型合并視為黑盒優(yōu)化問題。決策變量對應于合并配置文件中的目標參數(shù)（如插值或修剪系數(shù)）。目標函數(shù)定義了要優(yōu)化的適應度標準，如準確性、復雜度或其他任務特定指標。MergingProblem類定義了如何將基因型轉換為合并模型（通過調(diào)用Merger）、如何在數(shù)據(jù)集上評估合并模型（通過Evaluator），以及如何將結果適應度或多目標分數(shù)返回給算法。

Mergenetic支持各種單目標或多目標方法。單目標方法優(yōu)化一個指標（如跨語言準確性），而多目標策略（如NSGA-II）可以同時平衡多個指標，例如數(shù)學準確性與一般流暢性。

評估器計算合并模型在所選任務上的性能。在Mergenetic中，它們既可以作為直接評估器（如在小數(shù)據(jù)集上運行），也可以作為基于IRT的估計器使用錨點。該庫支持兩大類評估器：

LM-Eval-Harness評估器可以直接調(diào)用LM-Eval-Harness庫，傳遞合并的檢查點和所選基準（如ARC、GSM8K）。這種方法覆蓋了許多標準任務并產(chǎn)生一致的比較結果。然而，如果反復評估大型數(shù)據(jù)集的許多候選合并，它可能相對昂貴。為了解決這個問題，Mergenetic包裝了LM-Eval-Harness，允許通過即插即用的ConfigPE進行顯式子采樣，無需實例化新的配置文件。

自定義評估器允許用戶定義自己的正確性計算邏輯，例如MultilingualMathFGEvaluator（檢查最終提取的數(shù)字是否正確且符合目標語言），或MultipleChoiceEvaluator（比較所選字母與正確答案）。這些評估器使高級用戶能夠輕松結合部分正確性檢查與領域約束。

最后，Searcher類協(xié)調(diào)進化循環(huán)：它從隨機基因型（權重向量）的初始化開始，接著進行合并/評估（每個基因型合并為檢查點并在用戶指定的任務/數(shù)據(jù)集上評分），然后是選擇/變異（基于適應度選擇父代基因型，通過交叉和突變修改以產(chǎn)生子代）。步驟2和3在主循環(huán)中重復T代。因此，Searcher類本質(zhì)上將所有這些元素（Problem、Merger、Evaluator、PyMoo算法）封裝在一個易用的API中。

整個搜索過程中，中間結果（種群基因型、部分解決方案、日志）存儲在CSV或JSON中，便于實時監(jiān)控。完成后，test()重新合并最佳解決方案并在未見測試集上評估它們，以量化最終性能。

四、實際案例研究

為了展示Mergenetic的能力，研究團隊復現(xiàn)了兩個進化模型合并管道：MERGE3和EvoLLM-JP。

在第一個案例中，研究人員展示了如何使用Mergenetic合并四種語言（意大利語、英語、德語和荷蘭語）的單獨微調(diào)模型，創(chuàng)建一個單一的多語言模型。這種設置將目標函數(shù)明確地制定為多任務，為每種語言分配一個評估指標，以促進平衡的跨語言性能。如結果所示，合并模型始終優(yōu)于其所有語言特定組成部分，在ARC-Challenge基準測試中獲得高達19%的準確率提升。最重要的是，它超越了所有端點，突顯了進化合并在促進跨語言積極知識轉移方面的有效性。

在第二個案例中，研究人員展示了Mergenetic支持跨語言技能遷移的能力。他們將專精于英語數(shù)學的模型與微調(diào)版本的日語Mistral-7B合并，并在GSM8K數(shù)據(jù)集的日語翻譯版本上評估結果。這個實驗遵循Akiba等人（2025）提出的通用設置，但僅使用100個樣本進行適應度評估，而非完整數(shù)據(jù)集。結果顯示，合并模型比每個單獨組件的準確率提高了10-20%，證明了進化合并實現(xiàn)的有效跨語言遷移。

這些案例研究證明，Mergenetic能夠在各種任務和語言環(huán)境中產(chǎn)生競爭性結果，僅使用適度的硬件資源。它不僅降低了進入門檻，還為研究人員和實踐者提供了靈活的工具，探索高質(zhì)量的模型組合，無需大規(guī)?；A設施。

五、局限性與未來展望

盡管Mergenetic顯著降低了進化模型合并的門檻，但仍存在幾個限制。首先，模型合并需要訪問預訓練或微調(diào)的基礎模型，這些模型具有相關能力（如數(shù)學推理、特定語言流暢性）。因此，該技術目前無法直接應用于極低資源語言或沒有這類模型的領域。未來工作可以探索在合并前集成輕量級微調(diào)或基于檢索的增強，以減輕這種依賴。

其次，雖然Mergenetic設計用于消費級GPU，但仍需相對高端的硬件（如NVIDIA RTX 2080或更好），這是由于涉及語言模型的大小以及需要在進化過程中加載和評估它們。大多數(shù)筆記本電腦或低內(nèi)存GPU可能沒有足夠的VRAM支持重復的合并和評估步驟。研究人員將此視為當前LLM基礎設施的更廣泛限制，并希望模型量化、稀疏評估和高效加載技術的進步將進一步民主化Mergenetic等前沿AI工具的訪問。

展望未來，Mergenetic有望成為進化模型合并研究和應用的重要工具。它通過將尖端進化模型合并技術與實用性相結合，填補了現(xiàn)有工具的空白。研究人員希望該庫能夠推動多語言、多任務和高效進化模型合并的未來研究，并邀請社區(qū)在其能力基礎上構建和擴展。

總結來說，Mergenetic代表了一個重要的進步，它讓進化模型合并變得更加高效、可配置和可訪問。通過彌合尖端進化模型合并與實用性之間的差距，它使研究人員和實踐者能夠在普通硬件上探索高質(zhì)量的模型組合。這個簡單而強大的工具庫可能會促進多語言、多任務和高效進化模型合并的未來研究，并邀請社區(qū)在其能力的基礎上構建和擴展。