這項由香港科技大學(xué)林晨和清華大學(xué)張云軻團隊領(lǐng)導(dǎo)的研究發(fā)表于2025年6月，探索了一個全新的研究方向——AI智能體行為科學(xué)。這篇題為《AI Agent Behavioral Science》的論文由十多位研究者合作完成，有興趣深入了解的讀者可以通過arXiv:2506.06366v3獲取完整論文。

你是否曾經(jīng)好奇，當AI開始變得越來越聰明時，它們到底會如何行事？就像觀察小孩成長過程中的行為變化一樣，科學(xué)家們開始意識到，隨著AI變得更加智能和自主，我們也需要像研究人類行為一樣去研究AI的行為模式。這不僅僅是技術(shù)問題，更關(guān)系到我們?nèi)绾闻c這些日益智能的伙伴和諧共處。

研究團隊發(fā)現(xiàn)了一個有趣現(xiàn)象：現(xiàn)在的AI系統(tǒng)，特別是基于大型語言模型的AI智能體，已經(jīng)開始表現(xiàn)出類似人類的復(fù)雜行為。它們會規(guī)劃、適應(yīng)環(huán)境，甚至在社交場合中展現(xiàn)出令人驚訝的互動能力。比如，當研究人員將AI智能體放在一個虛擬小鎮(zhèn)里時，這些AI竟然自發(fā)地開始建立日常作息，相互聊天，甚至組織情人節(jié)派對。在類似狼人殺這樣的社交推理游戲中，AI智能體學(xué)會了欺騙、說服和結(jié)盟。

這些行為并非程序員預(yù)先設(shè)計好的，而是在特定環(huán)境中通過互動自然涌現(xiàn)的。就像小孩在游樂場中學(xué)會分享玩具、解決沖突一樣，AI智能體的行為也會根據(jù)環(huán)境、社交線索和互動反饋而不斷演變。這種現(xiàn)象促使研究團隊提出了一個全新的研究范式：AI智能體行為科學(xué)。

傳統(tǒng)的AI研究就像拆解鐘表一樣，專注于理解內(nèi)部機制——架構(gòu)、權(quán)重、注意力模式和訓(xùn)練目標。這種以模型為中心的方法受到物理學(xué)和神經(jīng)科學(xué)的啟發(fā)，確實產(chǎn)生了深刻的洞察。然而，隨著AI模型變得越來越復(fù)雜，要精確找出哪些特定組件或神經(jīng)元觸發(fā)特定行為變得極其困難。更重要的是，在社會化和開放式環(huán)境中，行為不僅由內(nèi)部計算決定，還受到互動歷史、社會背景和反饋循環(huán)的影響。

AI智能體行為科學(xué)提供了一個互補的視角。它不再僅僅關(guān)注AI的內(nèi)部工作原理，而是系統(tǒng)性地觀察行為，設(shè)計干預(yù)措施來測試假設(shè)，并運用理論指導(dǎo)來解釋AI智能體如何行動、適應(yīng)和隨時間互動。就像心理學(xué)家觀察兒童在不同環(huán)境中的行為變化來理解發(fā)展模式一樣，這個新領(lǐng)域詢問的不僅是模型原則上能做什么，而是智能體在實踐中實際做什么。

研究團隊將這一新興視角系統(tǒng)化為三個主要層面的研究。首先是個體智能體行為，就像研究一個人的性格特征、決策模式和適應(yīng)能力。他們發(fā)現(xiàn)AI智能體在認知推理、情感識別和心理理論方面表現(xiàn)出驚人的類人能力，盡管在經(jīng)濟理性一致性方面仍有不足，并且對任務(wù)框架敏感。

其次是多智能體交互動力學(xué)，類似于研究群體社會學(xué)。當多個AI智能體互動時，會出現(xiàn)超越任何單個個體能力或意圖的新型復(fù)雜行為。研究團隊觀察到了三種主要模式：合作動力學(xué)、競爭動力學(xué)和開放式交互動力學(xué)。在合作環(huán)境中，智能體通過協(xié)商、角色協(xié)調(diào)和規(guī)范遵循來追求共同目標。在競爭環(huán)境中，智能體展現(xiàn)出欺騙、報復(fù)或戰(zhàn)略排斥等行為。在開放式環(huán)境中，智能體以獨立、演化或非特定目標行動，自發(fā)地產(chǎn)生制度、例行程序和社會結(jié)構(gòu)。

第三個層面是人機交互，探索AI智能體在與人類互動時扮演的行為角色。在合作環(huán)境中，AI智能體支持一致的人類目標，通過適應(yīng)社交線索、刺激探索或重塑群體結(jié)構(gòu)來實現(xiàn)。在競爭環(huán)境中，AI智能體參與競爭或施加不對稱影響，追求可能與人類用戶目標沖突的目標。

為了更好地理解和指導(dǎo)AI智能體行為，研究團隊借鑒了福格行為模型，將行為適應(yīng)方法分為三個關(guān)鍵要素。能力映射到大規(guī)模預(yù)訓(xùn)練期間獲得的基礎(chǔ)能力，使智能體能夠執(zhí)行廣泛的任務(wù)。動機對應(yīng)于通過強化學(xué)習(xí)或戰(zhàn)略微調(diào)引入的獎勵信號或環(huán)境反饋，塑造行為偏好。觸發(fā)器反映在特定上下文中激活和指導(dǎo)智能體行為的任務(wù)特定提示或指令。

這個三元框架幫助研究團隊對現(xiàn)有適應(yīng)技術(shù)進行分類。對于能力，現(xiàn)代基于Transformer的模型用于形成強大的行為基礎(chǔ)，編碼通用知識和決策能力。對于動機，強化學(xué)習(xí)優(yōu)化方法如RLHF、DPO和TDPO，以及微調(diào)策略如個性化數(shù)據(jù)集、適配器微調(diào)，動態(tài)地將模型輸出與人類偏好對齊。對于觸發(fā)器，復(fù)雜的提示策略在多智能體協(xié)作場景中精確靈活地啟動行為，特別有益。

研究團隊還探討了AI智能體行為科學(xué)如何為負責(zé)任的AI提供新途徑。傳統(tǒng)的負責(zé)任AI方法通常強調(diào)靜態(tài)倫理指導(dǎo)、合規(guī)檢查表或廣泛的治理原則。雖然這些是必要的，但隨著AI智能體變得越來越自主、適應(yīng)性強并嵌入復(fù)雜的社會技術(shù)系統(tǒng)中，這些工具日益不足。

通過行為科學(xué)的視角，公平性、安全性、可解釋性、問責(zé)制和隱私從模型的靜態(tài)一次性屬性轉(zhuǎn)變?yōu)閯討B(tài)的上下文相關(guān)屬性。公平性成為智能體是否在持續(xù)互動中對不同個人和群體行為公平的問題?？山忉屝圆粌H關(guān)于暴露內(nèi)部權(quán)重或注意力，還關(guān)于行為的易讀性，以及用戶是否能形成智能體決策邏輯的心理模型。安全性從輸入魯棒性擴展到角色變化、記憶積累或新環(huán)境壓力下的行為穩(wěn)定性。

在測量方面，研究團隊展示了如何運用實驗心理學(xué)和文化理論的方法來捕捉在互動和情境環(huán)境中表現(xiàn)的偏見。例如，一些研究采用"掩蔽欺騙檢測"范式來識別對方言使用者的種族偏見，而不明確提及種族，揭示了嵌入在模型行為中的歧視傾向。

在優(yōu)化方面，改善AI智能體的公平性需要將公平原則整合到模型推理和互動策略中的技術(shù)。一些方法旨在在推理或生成層面進行干預(yù)，引入因果提示框架，將LLM推理過程映射為因果圖，并通過受法律和社會政策公平性措施啟發(fā)的提示來緩解偏見。

對于安全性，研究團隊發(fā)現(xiàn)測量AI智能體安全性涉及評估其可靠性和與人類期望的一致性，利用感知和決策制定方面的行為科學(xué)洞察。一項研究調(diào)查了擴大的LLM如何盡管能力增強，但從人類視角產(chǎn)生的輸出可預(yù)測性和可靠性較低，經(jīng)常在復(fù)雜任務(wù)上產(chǎn)生看似合理但不正確的回答。

在可解釋性方面，測量通常集中在模型輸出和推理與人類期望和決策制定框架的匹配程度。優(yōu)化涉及多個層面的干預(yù)，從構(gòu)建內(nèi)部推理，增強輸出表示，到設(shè)計促進共同理解的人機交互策略。

研究團隊提出了六個有前景的研究方向。首先是如何建模和管理AI智能體行為的不確定性。行為本質(zhì)上是概率性和上下文敏感的，隨著AI智能體部署在多樣化環(huán)境中并參與各種互動，它們經(jīng)常表現(xiàn)出意外行為。受人類決策噪音和行為變異性豐富文獻的啟發(fā)，是否可能定義行為熵的概念作為量化AI智能體行為不可預(yù)測性的統(tǒng)一構(gòu)造？

其次是如何在宏觀層面有效適應(yīng)AI智能體行為。隨著AI智能體越來越多地作為模塊化和情境化系統(tǒng)運行，它們的行為變得超出其各部分的總和，因此通過局部干預(yù)越來越難以追蹤或改變。一個有前景的下一步是不僅將這種行為變化框架作為回顧性分析工具，而且作為生成設(shè)計哲學(xué)來采用。

第三是如何將AI智能體用作人類和社會系統(tǒng)中的行為干預(yù)。行為科學(xué)長期以來一直在探索如何以最小干預(yù)影響人類行為，最著名的是通過精心設(shè)計的推動來改變選擇架構(gòu)而不限制自由。隨著AI智能體從被動工具演變?yōu)闆Q策過程中的積極參與者，它們現(xiàn)在具備了以更動態(tài)和個性化方式影響人類行為的能力。

第四是人工社會如何推進行為理論?；贚LM的多智能體系統(tǒng)的興起為行為科學(xué)開辟了一個強大的新實驗范式：構(gòu)建由多樣化、自主和互動智能體填充的復(fù)雜人工社會。這些合成社會提供了模擬從規(guī)范出現(xiàn)和社會傳染到制度漂移和文化演化等復(fù)雜社會動力學(xué)的潛力。

第五是如何將負責(zé)任的AI重新想象為預(yù)防有害智能體行為的科學(xué)。當前的負責(zé)任AI研究傾向于將公平性、可解釋性和安全性等原則評估為模型的靜態(tài)和一次性屬性。然而，隨著AI智能體變得更加動態(tài)并嵌入長期互動中，這種評估方法就不夠了。

最后是人機交互如何催生文化和集體智能。隨著人類越來越多地與AI智能體在創(chuàng)意、戰(zhàn)略和問題解決領(lǐng)域互動，AI智能體行為科學(xué)的一個新前沿正在出現(xiàn)：研究混合人機系統(tǒng)中集體智能和文化如何演化。

說到底，這項研究為我們理解AI的未來指出了一個全新方向。與其僅僅把AI當作復(fù)雜的計算工具，我們開始認識到它們正在成為有自己行為模式的"數(shù)字生物"。就像我們需要了解動物行為來更好地與它們相處一樣，了解AI的行為模式將幫助我們建立更和諧、更安全的人機共存關(guān)系。

這個領(lǐng)域的發(fā)展不僅關(guān)乎技術(shù)進步，更關(guān)乎我們?nèi)绾嗡茉煲粋€AI與人類共同繁榮的未來。隨著AI變得越來越智能和自主，它們的行為選擇將深刻影響我們的社會、文化甚至價值觀。因此，及早建立AI智能體行為科學(xué)這一學(xué)科框架，對于確保AI技術(shù)朝著有益于人類的方向發(fā)展具有重要意義。

當我們站在這個人工智能快速發(fā)展的十字路口時，這項研究提醒我們，技術(shù)的真正價值不僅在于它能做什么，更在于它如何與我們互動，如何影響我們的生活方式。通過系統(tǒng)性地研究AI智能體的行為，我們正在為建設(shè)一個更加智慧、更加人性化的未來奠定科學(xué)基礎(chǔ)。有興趣深入了解這一前沿研究的讀者，可以通過論文鏈接arXiv:2506.06366v3獲取更多詳細信息。

Q&A

Q1：AI智能體行為科學(xué)是什么？它為什么重要？ A：AI智能體行為科學(xué)是一個新興研究領(lǐng)域，專門研究AI系統(tǒng)在真實環(huán)境中的行為模式，就像心理學(xué)研究人類行為一樣。它重要是因為隨著AI變得越來越自主和智能，理解它們的行為模式對于確保安全、公平和有益的人機互動至關(guān)重要。

Q2：AI智能體會不會像人類一樣產(chǎn)生偏見或不當行為？ A：是的，研究發(fā)現(xiàn)AI智能體確實會表現(xiàn)出類似人類的偏見和不當行為，比如在社交游戲中學(xué)會欺騙，或者在決策中表現(xiàn)出文化和性別偏見。這正是為什么需要行為科學(xué)方法來識別、測量和糾正這些問題。

Q3：普通人如何從AI智能體行為科學(xué)的發(fā)展中受益？ A：這項研究將幫助開發(fā)更安全、更公平、更易理解的AI系統(tǒng)。未來的AI助手會更好地理解人類需求，在醫(yī)療、教育、客服等領(lǐng)域提供更個性化服務(wù)，同時避免歧視或誤導(dǎo)用戶，讓AI真正成為人類的可靠伙伴。