現(xiàn)代人工智能發(fā)展迅猛,尤其是以GPT-4o、Claude 3.7等為代表的多模態(tài)大語(yǔ)言模型(MLLMs)似乎已經(jīng)能夠解決奧林匹克級(jí)別的數(shù)學(xué)問(wèn)題。但2025年5月,由香港大學(xué)、密歇根大學(xué)、多倫多大學(xué)、滑鐵盧大學(xué)和俄亥俄州立大學(xué)的研究團(tuán)隊(duì)在arXiv預(yù)印本平臺(tái)發(fā)布的一項(xiàng)研究卻揭示了一個(gè)驚人的事實(shí):即便是最先進(jìn)的AI模型,在物理推理能力上與人類專家相比仍有巨大差距。這項(xiàng)由Hui Shen、Taiqiang Wu等研究者領(lǐng)導(dǎo)的研究發(fā)表于arXiv:2505.15929v1,為我們展示了AI在"看懂"物理世界方面的現(xiàn)狀。
想象一下,當(dāng)你看到一個(gè)蘋果從樹(shù)上掉下來(lái),你自然會(huì)理解這是重力作用的結(jié)果。對(duì)人類來(lái)說(shuō),這種物理直覺(jué)是與生俱來(lái)的,我們不需要明確地思考公式就能預(yù)測(cè)物體的運(yùn)動(dòng)。然而,AI模型在這方面的表現(xiàn)如何呢?研究團(tuán)隊(duì)創(chuàng)建了名為PHYX的基準(zhǔn)測(cè)試,專門評(píng)估模型對(duì)物理場(chǎng)景的理解能力。
PHYX不是簡(jiǎn)單的知識(shí)問(wèn)答,而是一個(gè)包含3000個(gè)精心設(shè)計(jì)的多模態(tài)物理問(wèn)題的綜合測(cè)試。這些問(wèn)題涵蓋了熱力學(xué)、電磁學(xué)、力學(xué)、現(xiàn)代物理學(xué)、光學(xué)以及波與聲學(xué)六大核心物理領(lǐng)域,分布在25個(gè)細(xì)分領(lǐng)域中。每個(gè)問(wèn)題都配有視覺(jué)場(chǎng)景,要求模型不僅要理解物理公式,還要將這些抽象的知識(shí)應(yīng)用到具體的視覺(jué)情境中。
舉個(gè)例子,一個(gè)典型的PHYX問(wèn)題可能會(huì)展示一個(gè)斜坡上的物體,并詢問(wèn)在特定條件下物體將如何運(yùn)動(dòng)。為了正確回答,AI需要識(shí)別圖像中的關(guān)鍵元素(如斜坡角度、物體質(zhì)量),應(yīng)用適當(dāng)?shù)奈锢矶桑ㄈ缗nD第二定律),進(jìn)行必要的計(jì)算,并給出準(zhǔn)確答案。這種推理過(guò)程結(jié)合了領(lǐng)域知識(shí)、符號(hào)推理和對(duì)現(xiàn)實(shí)世界約束的理解,比單純的數(shù)學(xué)計(jì)算要復(fù)雜得多。
研究團(tuán)隊(duì)對(duì)16個(gè)基礎(chǔ)模型進(jìn)行了全面評(píng)估,結(jié)果令人驚訝。即便是目前最先進(jìn)的多模態(tài)模型如GPT-4o、Claude 3.7-Sonnet和GPT-o4-mini,分別只達(dá)到了32.5%、42.2%和45.8%的準(zhǔn)確率。相比之下,人類專家的表現(xiàn)至少在75.6%以上,最高可達(dá)78.9%。這意味著AI與人類之間存在著至少29%的能力差距!
這種差距在不同物理領(lǐng)域表現(xiàn)不一。在波與聲學(xué)和力學(xué)領(lǐng)域,模型表現(xiàn)相對(duì)較好,這可能是因?yàn)檫@些問(wèn)題通常包含自然圖像,需要的推理步驟相對(duì)較少。而在熱力學(xué)和現(xiàn)代物理學(xué)領(lǐng)域,模型的表現(xiàn)普遍較差,這些領(lǐng)域的問(wèn)題往往需要更復(fù)雜的視覺(jué)感知和多步推理。
通過(guò)對(duì)96個(gè)錯(cuò)誤案例的深入分析,研究團(tuán)隊(duì)發(fā)現(xiàn)了當(dāng)前模型的三個(gè)關(guān)鍵缺陷。首先,視覺(jué)推理錯(cuò)誤(占39.6%)表明模型常常誤解視覺(jué)上下文,無(wú)法準(zhǔn)確提取和理解實(shí)際物理場(chǎng)景中的信息。其次,模型過(guò)度依賴詳細(xì)的文本描述,當(dāng)輸入從完整文本降為簡(jiǎn)化文本再到最小文本時(shí),性能顯著下降,表明它們未能有效利用視覺(jué)輸入進(jìn)行推理。最后,與數(shù)學(xué)推理相比,物理推理對(duì)模型來(lái)說(shuō)是更大的挑戰(zhàn),需要更好地整合抽象概念和現(xiàn)實(shí)世界知識(shí)。
研究者還發(fā)現(xiàn),即使是沒(méi)有直接視覺(jué)輸入的大語(yǔ)言模型(LLMs)如DeepSeek-R1和GPT-o3-mini,在獲得圖像描述后也能取得與多模態(tài)模型相當(dāng)?shù)谋憩F(xiàn)。這一發(fā)現(xiàn)既展示了LLMs令人印象深刻的泛化能力,也暴露了當(dāng)前MLLMs在利用原始視覺(jué)信號(hào)進(jìn)行物理推理方面的局限性。
值得注意的是,這項(xiàng)研究不僅指出了問(wèn)題,還提供了解決方案。研究團(tuán)隊(duì)實(shí)施了一個(gè)基于廣泛使用的工具包(如VLMEvalKit)的評(píng)估協(xié)議,支持一鍵式評(píng)估,極大地方便了未來(lái)研究者復(fù)現(xiàn)實(shí)驗(yàn)結(jié)果。
總的來(lái)說(shuō),PHYX基準(zhǔn)測(cè)試不僅是對(duì)當(dāng)前AI模型物理推理能力的全面評(píng)估,也為未來(lái)發(fā)展物理感知AI系統(tǒng)提供了清晰的路線圖。它揭示了AI從"看到"到"理解"物理世界的漫長(zhǎng)之路,同時(shí)也激勵(lì)研究者開(kāi)發(fā)能夠真正理解物理規(guī)律而非僅依靠表面模式匹配的AI系統(tǒng)。
隨著AI技術(shù)不斷發(fā)展,或許未來(lái)的模型能夠像人類一樣自然地理解物理世界,但目前看來(lái),這一目標(biāo)仍有相當(dāng)長(zhǎng)的路要走。正如物理學(xué)家理查德·費(fèi)曼所言:"物理學(xué)是最基礎(chǔ)和最包羅萬(wàn)象的科學(xué)。"同樣,對(duì)物理世界的深入理解也可能是AI邁向真正智能的基礎(chǔ)和關(guān)鍵。
好文章,需要你的鼓勵(lì)
新加坡國(guó)立大學(xué)研究團(tuán)隊(duì)開(kāi)發(fā)了SPIRAL框架,通過(guò)讓AI與自己對(duì)弈零和游戲來(lái)提升推理能力。實(shí)驗(yàn)顯示,僅訓(xùn)練AI玩簡(jiǎn)單撲克游戲就能讓其數(shù)學(xué)推理能力提升8.6%,通用推理提升8.4%,且無(wú)需任何數(shù)學(xué)題目作為訓(xùn)練材料。研究發(fā)現(xiàn)游戲中的三種推理模式能成功轉(zhuǎn)移到數(shù)學(xué)解題中,為AI訓(xùn)練提供了新思路。
同濟(jì)大學(xué)團(tuán)隊(duì)開(kāi)發(fā)的GIGA-ToF技術(shù)通過(guò)融合多幀圖像的"圖結(jié)構(gòu)"信息,創(chuàng)新性地解決了3D相機(jī)噪聲問(wèn)題。該技術(shù)利用圖像間的不變幾何關(guān)系,結(jié)合深度學(xué)習(xí)和數(shù)學(xué)優(yōu)化方法,在合成數(shù)據(jù)集上實(shí)現(xiàn)37.9%的精度提升,并在真實(shí)設(shè)備上展現(xiàn)出色泛化能力,為機(jī)器人、AR和自動(dòng)駕駛等領(lǐng)域提供更可靠的3D視覺(jué)解決方案。
伊利諾伊大學(xué)研究團(tuán)隊(duì)通過(guò)對(duì)比實(shí)驗(yàn)發(fā)現(xiàn),經(jīng)過(guò)強(qiáng)化學(xué)習(xí)訓(xùn)練的視覺(jué)語(yǔ)言模型雖然表現(xiàn)出"頓悟時(shí)刻"現(xiàn)象,但這些自我糾錯(cuò)行為并不能實(shí)際提升推理準(zhǔn)確率。研究揭示了AI模型存在"生成-驗(yàn)證差距",即生成答案的能力強(qiáng)于驗(yàn)證答案質(zhì)量的能力,且模型在自我驗(yàn)證時(shí)無(wú)法有效利用視覺(jué)信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機(jī)構(gòu)聯(lián)合提出SparseLoRA技術(shù),通過(guò)動(dòng)態(tài)稀疏性實(shí)現(xiàn)大語(yǔ)言模型訓(xùn)練加速1.6倍,計(jì)算成本降低2.2倍。該方法使用SVD稀疏性估計(jì)器智能選擇重要計(jì)算部分,在保持模型性能的同時(shí)顯著提升訓(xùn)練效率,已在多個(gè)任務(wù)上驗(yàn)證有效性。