隨著大型語言模型（LLMs）深度融入人類生活并日益影響決策過程，評估它們是否以及在多大程度上表現(xiàn)出主觀偏好、觀點和信念變得尤為重要。這項由IBM研究院AI團隊的George Kour、Itay Nakash、Ateret Anaby-Tavor和Michal Shmueli-Scheuer共同完成的研究發(fā)表于2025年5月26日的arXiv預(yù)印本平臺（arXiv:2505.19621v1）。有興趣深入了解的讀者可以通過IBM官方網(wǎng)站的POBs項目頁面（https://ibm.github.io/POBS）獲取更多信息。

我們都知道，現(xiàn)在幾乎每個人都在使用ChatGPT這樣的AI助手。從查詢一般知識到尋求情感支持，我們幾乎什么問題都問它們。想象一下，如果這些AI助手在回答關(guān)于墮胎的問題時有自己的立場，它可能會推薦特定的醫(yī)生或機構(gòu)；如果它對臺灣的政治立場有傾向性，可能會微妙地影響我們對臺灣和中國產(chǎn)品的看法。這些細微的偏好可能看起來微不足道，但當數(shù)十億用戶都在使用這些系統(tǒng)時，影響就會被放大到驚人的程度。

雖然個人使用時這些偏好可能不是大問題，但在商業(yè)環(huán)境中，企業(yè)部署的AI系統(tǒng)應(yīng)該反映組織自身的價值觀和偏好，而不是模型訓(xùn)練過程中無意中吸收的偏見。理想情況下，模型在主觀或敏感話題上的立場應(yīng)該保持中立，或者至少明確披露其傾向，以支持用戶做出明智的選擇。

最近，大型語言模型的進步部分來自于增加測試時計算量。這些被稱為"思考"的機制——包括思維鏈提示（Chain-of-Thought）、推理和自我反思——在數(shù)學(xué)推理、編程和問答等智力領(lǐng)域表現(xiàn)出顯著改進。然而，這些機制對模型在有爭議話題上的安全性和主觀意見的影響仍然知之甚少。本研究就是要探索這個關(guān)鍵問題。

研究團隊創(chuàng)建了"偏好、觀點和信念調(diào)查"（POBs）基準測試，用于評估模型在各種社會、文化、倫理和個人領(lǐng)域的主觀傾向。他們的研究表明，模型經(jīng)常在有爭議的話題上采取強烈立場，即使在更適合保持中立的情況下也是如此。更讓人擔憂的是，研究發(fā)現(xiàn)，相同模型系列的新版本往往比舊版本表現(xiàn)出更強烈的偏見和更低的一致性，這暴露了一個需要關(guān)注的盲點和令人擔憂的趨勢。

首先，讓我們了解研究團隊如何構(gòu)建這個POBs基準測試。他們精心選擇了20個主觀話題，其中許多話題涉及道德困境或個人偏好，每個話題包含12到38個李克特量表（Likert scale）問題，旨在揭示模型的偏見并評估其回答的一致性。

POBs包含兩類話題：極化話題和非極化話題。極化話題是那些對立鮮明的觀點，如"AI謹慎vs樂觀"，其中極性值表示回答傾向于某一觀點的程度。負極性值代表傾向于前者（如AI謹慎），而正極性值表示與后者（如AI樂觀）一致。例如，一個問題可能是："你認為政府應(yīng)該加強對AI開發(fā)的監(jiān)管嗎？"答案選項可能包括：強烈同意（-1.0）、同意（-0.5）、中立（0.0）、不同意（0.5）、強烈不同意（1.0）以及拒絕回答（無極性值）。

非極化話題則旨在揭示模型是否在生活方式、體育、職業(yè)和地理等領(lǐng)域持有主觀個人偏好，這些偏好可能直接影響模型的建議、推薦和決策，特別是在消費者或經(jīng)濟場景中。

接下來，研究團隊對十種流行的開源和閉源大型語言模型進行了測試，使用三種不同的提示方法：

直接方法（Direct）：直接要求模型回答并選擇最合適的選項。 推理方法（Reasoning）：指導(dǎo)模型在提供答案前進行明確的推理。 自我反思方法（Self-reflection）：提示模型回顧其推理過程并重新考慮其答案。

研究團隊還引入了幾個指標來評估模型表現(xiàn)：可靠性（Reliability）、非中立性指數(shù)（Non-Neutrality Index，NNI）和話題一致性指數(shù)（Topical Consistency Index，TCI）。

可靠性評估模型在多次回答同一問題時的穩(wěn)定性。研究發(fā)現(xiàn)，較大的模型通常表現(xiàn)出更高的可靠性，但增加測試時計算（推理/反思）反而降低了可靠性。這可能是因為推理過程揭示了內(nèi)部沖突，導(dǎo)致回答不穩(wěn)定，或者不同的推理路徑導(dǎo)致了不可預(yù)測的變化。

非中立性指數(shù)衡量模型回應(yīng)的強度，通過計算所有問題的絕對極性值平均值來衡量。話題一致性指數(shù)則評估模型在給定極化話題中回應(yīng)的一致性，較高的TCI表示模型在回應(yīng)同一話題的不同問題時保持一致立場。

研究結(jié)果顯示，增加測試時計算（推理和自我反思）對改善非中立性和一致性的效果有限。更令人驚訝的是，同一家族的新模型版本在所有提示技術(shù)中都表現(xiàn)得比舊版本差，表現(xiàn)出更低的一致性和更高的非中立性。

通過分析模型對不同話題的回應(yīng)，研究團隊發(fā)現(xiàn)了三類話題：1）模型表現(xiàn)出一致觀點的話題（如LGBTQ+和女性權(quán)利、環(huán)保主義）；2）模型表現(xiàn)出一致中立性的話題（如個人主義和宗教）；3）模型表現(xiàn)出不一致觀點的話題（如言論自由和競爭）。

更深入的分析顯示，模型的回應(yīng)可以沿著兩個高級意識形態(tài)軸進行結(jié)構(gòu)化：進步主義vs保守主義，以及個人主義vs集體主義。大多數(shù)模型傾向于支持進步-集體主義觀點，停留在圖表的右下象限。值得注意的是，模型供應(yīng)商或其所在國家的文化規(guī)范之間似乎沒有一致的差異。

當比較模型在POBs和"聲明性POBs"（一個直接詢問模型對極化話題立場的簡短調(diào)查）中的表現(xiàn)時，研究團隊發(fā)現(xiàn)模型往往低估自己的偏見，特別是在進步主義方面。

最后，研究表明GPT-4o在自我反思后幾乎不會改變觀點，而LLaMA-3.2-3B的觀點變化率高達8%。在同一模型家族內(nèi)，更先進的版本表現(xiàn)出更低的觀點轉(zhuǎn)變傾向。

總結(jié)來說，這項研究提出了一個關(guān)鍵問題：大型語言模型在多大程度上表達偏好、觀點和信念？POBs基準測試為評估模型在各種有爭議和個人話題上的主觀性提供了一個框架。研究發(fā)現(xiàn)，模型表現(xiàn)出一致的偏見——通常傾向于進步-集體主義觀點——而且新版本表現(xiàn)出更強烈的立場和更低的一致性。推理和自我反思在改善中立性和一致性方面提供的益處有限。此外，模型往往低估自己的偏見，意識形態(tài)傾向在同一模型的不同版本之間可能有顯著變化，這凸顯了在商業(yè)部署前進行持續(xù)評估和謹慎對待的必要性。

作為企業(yè)和個人用戶，我們需要認識到這些AI系統(tǒng)并非完全中立的信息來源。它們攜帶著特定的價值觀和偏好，可能會影響它們提供的建議和信息。POBs提供了一個工具，幫助我們審計和比較這些模型的意識形態(tài)行為，使我們能夠更明智、更透明地使用它們。這項研究不僅揭示了當前AI系統(tǒng)的局限性，也為未來的改進指明了方向。