作者 | 金旺

來源 | 科技行者

2024年12月2日，亞馬遜云科技一年一度的re:Invent大會在美國拉斯維加斯召開。

作為亞馬遜云科技年度盛會，2024 re:Invent大會現(xiàn)場吸引了6萬人參會，40萬人線上觀看。

大會期間，至頂科技也在現(xiàn)場目睹了這場盛會的人潮洶涌，以及來自亞馬遜云科技的諸多云計算、人工智能技術(shù)和產(chǎn)品發(fā)布。

我們看到了亞馬遜云科技的新一代計算實例、看到了新一代AI芯片，也看到了亞馬遜云科技在生成式AI領(lǐng)域密集的戰(zhàn)略部署。

更讓現(xiàn)場觀眾感到意外的是，蘋果高管——機器學(xué)習(xí)和AI高級總監(jiān)Benoit Dupin難得一見地親臨現(xiàn)場為亞馬遜云科技站臺，并透露，其備受關(guān)注的Apple Intelligence，正是基于亞馬遜云科技的服務(wù)。

僅僅是在十幾天后，12月18日，亞馬遜云科技再次將2024 re:Invent大會帶到了上海，為中國合作伙伴和開發(fā)者帶來了一個親臨現(xiàn)場感受亞馬遜云科技新一代技術(shù)和產(chǎn)品的機會。

在上海發(fā)布會現(xiàn)場，我們重溫了亞馬遜云科技Amazon EC2 Trn2實例、Amazon Aurora DSQL、Amazon Graviton4、Amazon Nova等新一代產(chǎn)品的新特性，也與亞馬遜云科技大中華區(qū)解決方案架構(gòu)總經(jīng)理代聞一起聊了聊他們對當下人工智能技術(shù)的理解和布局。

01 自研芯片的亞馬遜云科技，為Anthropic建十萬“卡”集群

在過去十五年里，云計算技術(shù)的快速演進支撐了全球數(shù)字經(jīng)濟的崛起。

作為云計算的主要推動者之一，亞馬遜云科技的基石產(chǎn)品Amazon EC2的更新，成了每年的一大看點。

Amazon EC2實例是如何推陳出新的呢？

據(jù)代聞透露，這主要依賴其背后的底層平臺Amazon Nitro System的持續(xù)迭代。

亞馬遜云科技的Nitro系統(tǒng)自2017年正式對外發(fā)布以來，已經(jīng)迭代了多個版本，作為亞馬遜云科技旨在幫助Amazon EC2進行硬件卸載、提高網(wǎng)絡(luò)和存儲性能，以及提高虛擬化安全性的技術(shù)，如今的Nitro系統(tǒng)已經(jīng)成為亞馬遜云科技軟硬件一體化發(fā)展的重要基礎(chǔ)。

為了推動計算實例的發(fā)展，亞馬遜云科技團隊將Nitro系統(tǒng)進行了解耦，即將完整的虛擬化軟件堆棧部署于獨立于計算服務(wù)器的Nitro系統(tǒng)上，讓底層虛擬化平臺與上層計算實例分離。

這樣設(shè)計的好處是，亞馬遜云科技可以分別推進兩部分產(chǎn)品的演進——底層硬件吞吐、存儲虛擬化、計算虛擬化完全在Nitro系統(tǒng)中進行，上層可計算實例也可以獨立發(fā)展。

得益于這樣的產(chǎn)品發(fā)展策略，亞馬遜云科技在2020年對外發(fā)布了Amazon EC2 Mac實例，實現(xiàn)了在Amazon EC2上運行Mac系統(tǒng)。

在本次發(fā)布會上，亞馬遜云科技基于Trainium2芯片的Amazon EC2 Trn2實例正式發(fā)布。

被譽為個人計算機之父的Alan Kay曾有這樣一句廣為流傳的名言，“真正認真對待軟件的人就應(yīng)該自己做硬件”。這句話后來被喬布斯在2007年的iPhone發(fā)布會上所引用。

不可否認的是，借助軟硬結(jié)合理念，蘋果在全球取得了巨大的成功，不過，亞馬遜云科技同樣是這一理念的忠實擁躉。

早在2018年，注意到ARM芯片架構(gòu)的重要性后，亞馬遜云科技開始著手自主研發(fā)CPU，在這之后，亞馬遜云科技特別針對云計算設(shè)計優(yōu)化了Neoverse架構(gòu)，今年基于這一架構(gòu)的第四代Amazon Graviton4也在今年早些時候正式對外發(fā)布。

與此同時，面向人工智能應(yīng)用，亞馬遜還在2019年推出了首款推理芯片Amazon Inferentia，2022年推出了首款訓(xùn)練芯片Amazon Trainium1，2023年官宣了宣布了Amazon Trainium2開發(fā)計劃。

本次亞馬遜云科技發(fā)布的Amazon EC2 Trn2計算實例也正是搭載了Amazon Trainium2。

搭載自研的Amazon Trainium2的Amazon EC2 Trn2計算實例，是目前亞馬遜云科技推出的最強自研芯片的AI實例，相較于當前基于H100的GPU實例，Amazon Trainium2的性價比提升了30%到40%。

值得注意的是，Amazon Trainium2底層硬件工作原理與GPU不同，是以Systolic Array（脈動陣列）方式來運行，這顆芯片工作時會和HBM（高帶寬內(nèi)存）模塊一起封裝在SoC中。

這其中，以什么樣的計算單元，又以多少個HBM模塊、采用怎樣的封裝方式封裝，這些因素決定了單顆芯片的內(nèi)存帶寬和計算能力。

代聞指出，“我們是面向現(xiàn)在機器學(xué)習(xí)訓(xùn)練和推理等不同場景，綜合當下一些難題，反過來思考硬件應(yīng)該如何重構(gòu)、怎樣設(shè)計，進而推出了這樣的芯片。所以你會看到，從Trainium1到Trainium2，再到今年預(yù)發(fā)布的Trainium3，每一次更新都會逐步解決當下遇到的很多難題。”

此外，采用NeuronLink技術(shù)將搭載64個Amazon Trainium2的實例相連構(gòu)成的Amazon EC2 Trn2 UltraServers服務(wù)器，單個計算節(jié)點峰值計算性能將超過83.2 Petaflops，這不僅為超大規(guī)模模型提供了更強的推理性能，而且由此構(gòu)建超大規(guī)模訓(xùn)練集群的過程也將更加高效。

被視為OpenAI的頭號對手的Anthropic正是采用了這一模式。

據(jù)悉，亞馬遜云科技正在與Anthropic合作一個Project Rainier項目，這一項目旨在為Anthropic構(gòu)建一個擁有數(shù)十萬顆芯片的訓(xùn)練集群，這個新集群運算性能預(yù)計是目前Anthropic訓(xùn)練Claude的GPU集群的五倍以上。

值得注意的是，人工智能作為當下科技領(lǐng)域大勢所趨，亞馬遜不僅向AI獨角獸Anthropic先后投資了共計80億美元，還在今年的re:Invent大會上發(fā)布了自己的大模型產(chǎn)品，公布了自己的人工智能戰(zhàn)略。

02 讓企業(yè)輕松構(gòu)建AI原生應(yīng)用

自2022年11月ChatGPT面世后，經(jīng)過兩年的爆炸式發(fā)展，生成式AI已經(jīng)不再是一個可選項，而成了應(yīng)用構(gòu)建不可或缺的核心組件。

在代聞看來，“這次生成式AI與五六年前的人工智能發(fā)展有所不同，我們注意到很多需求其實是源于業(yè)務(wù)部門。”

對此，代聞舉了兩個應(yīng)用案例：

其一是在企業(yè)營銷領(lǐng)域，通過利用生成式AI生成營銷文案、圖片海報，極大地加快了整個營銷方案生產(chǎn)流程、降低了營銷方案制作復(fù)雜度；

其二是在應(yīng)用開發(fā)領(lǐng)域，生成式AI可以自動檢測代碼，大幅簡化開發(fā)人員工作量，提升開發(fā)人員工作效率。

當在任何設(shè)計架構(gòu)中都需要考慮如何為應(yīng)用程序賦予生成式AI能力時，面對應(yīng)用開發(fā)者各種各樣的需求，如何選擇模型就成了首先要考慮的問題。

代聞指出，“現(xiàn)在大模型各有所長，但沒有任何一種模型可以解決所有問題。”

正是看到了這一趨勢亞馬遜云科技此次發(fā)布了Amazon Nova系列模型，6個模型，包括：

快速文本生成模型Amazon Nova Micro，能夠處理文本、圖像和視頻并生成文本的多模態(tài)模型Amazon Nova Lite、Amazon Nova Pro、Amazon Nova Premier，以及用于生成高質(zhì)量圖像的Amazon Nova Canvas和用于生成高質(zhì)量視頻的Amazon Nova Reel。

代聞在接受媒體采訪時指出：

“如今很多人在進行信息檢索、人機交互、APP使用時，都已經(jīng)開始借助大模型來完成。

這就帶來了從面向消費者（To C）到面向企業(yè)（To B）領(lǐng)域中，對于整個應(yīng)用程序的重構(gòu)，這種重構(gòu)涉及能否開箱即用、開發(fā)人員能否更好地利用大模型為自己的應(yīng)用程序賦能，以及底層平臺能否具備更好的性價比等問題。”

為此，亞馬遜云科技推出了Amazon Q Developer、Amazon Q Business和Amazon Q擴展更多應(yīng)用場景，顯著提升了開發(fā)效率、簡化復(fù)雜任務(wù)，并為不同行業(yè)和應(yīng)用場景提供可定制的智能解決方案。

以Amazon Q Developer為例，Amazon Q Developer此次推出了能夠?qū)崿F(xiàn)自動生成和執(zhí)行單元測試、自動生成精準文檔、自動執(zhí)行代碼審查流程的三款智能體，還推出了新的遷移功能，可以用于將.NET從Windows迅速遷移到Linux、將VMware工作負載遷移到云原生架構(gòu)、通過應(yīng)用轉(zhuǎn)化加速大型機遷移，大幅提升開發(fā)人員在整個軟件開發(fā)流程中的效率。

通過這些AI開發(fā)工具，亞馬遜云科技旨在加速生成式AI應(yīng)用開發(fā)效率，與此同時，亞馬遜云科技還構(gòu)建了面向開發(fā)者的生成式AI服務(wù)平臺Amazon Bedrock。

Amazon Bedrock自2023年9月發(fā)布后，陸續(xù)上線了多種可選模型，包括LumaAI的Ray2、poolside的malibu和point、Stable Diffusion 3.5，以及本次發(fā)布的Amazon Nova系列模型，新推出的Amazon Bedrock Marketplace更是提供了100+模型可選項。

此外，據(jù)大會上公布信息顯示，亞馬遜云科技進一步就Amazon Bedrock增強了私有數(shù)據(jù)應(yīng)用、AI安全、智能體功能，支持知識庫微調(diào)、GraphRAG、結(jié)構(gòu)化數(shù)據(jù)檢索、自動推理檢查、多智能體協(xié)作等新功能。

實際上，生成式AI不僅正在成為應(yīng)用構(gòu)建的核心組件，也在成為云計算的底層邏輯。

作為云計算模式的早期應(yīng)用者，也是當下全球最大的云計算服務(wù)供應(yīng)商，亞馬遜云科技深刻體會到了云計算正在從云原生轉(zhuǎn)向AI原生。

代聞告訴我們，“從云原生到AI原生已經(jīng)在逐漸發(fā)生，你會發(fā)現(xiàn)，現(xiàn)在沒有AI不是在云上發(fā)生。”

至于亞馬遜云科技，正在面向AI原生提供構(gòu)建AI的全部技術(shù)棧，包括底層專為AI打造的芯片和服務(wù)器，輕松接入領(lǐng)先模型并擁有各種模型定制工具的Amazon Bedrock，以及頂層開箱即用的Amazon Q。

代聞指出，“亞馬遜云科技是要讓各種不同技術(shù)棧的企業(yè)，都可以在亞馬遜云科技上輕松構(gòu)建AI原生的應(yīng)用。”