隨著AI近兩年來(lái)的快速發(fā)展，人們對(duì)于數(shù)據(jù)傳輸速率的要求日益高企，由此也對(duì)芯片架構(gòu)和生態(tài)靈活性提出更多挑戰(zhàn)。

近日，Arm高級(jí)副總裁兼基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理Mohamed Awad表示，通過(guò)提供Arm全面計(jì)算解決方案 (Arm Total Compute Solutions)、Arm Neoverse平臺(tái)、Arm Corstone、SOAFEE等，Arm在包括移動(dòng)、基礎(chǔ)設(shè)施、物聯(lián)網(wǎng)與汽車(chē)等目標(biāo)應(yīng)用市場(chǎng)，正在向生態(tài)伙伴提供一個(gè)完整、集成的解決方案。“希望合作伙伴能選擇適合自身的方式進(jìn)行產(chǎn)品開(kāi)發(fā)——我們既可以為合作伙伴提供一個(gè)完整的解決方案；他們也可以選用個(gè)別Arm IP，根據(jù)需求自由選擇。”

他表示，中國(guó)是Arm重要的市場(chǎng)之一。來(lái)自中國(guó)市場(chǎng)的創(chuàng)新也是Arm不斷發(fā)展，并在業(yè)務(wù)上取得成功的原因之一。如今，中國(guó)合作伙伴基于Arm架構(gòu)芯片的總出貨量已累計(jì)達(dá)300億顆。“目前我們?cè)谥袊?guó)有近400家技術(shù)授權(quán)客戶(hù)，我們也一直通過(guò)與安謀科技合作以進(jìn)一步助力本土合作伙伴。”

架構(gòu)新挑戰(zhàn) 

Mohamed Awad分析道，傳統(tǒng)的服務(wù)器系統(tǒng)架構(gòu)，是由內(nèi)存連接到一個(gè)通用的現(xiàn)成CPU，該CPU又負(fù)責(zé)管理多個(gè)加速器。這是過(guò)去市場(chǎng)上唯一可用的架構(gòu)。

“但問(wèn)題在于這個(gè)通用的現(xiàn)成CPU和加速器之間的接口直接限制了產(chǎn)品最終性能水平，因?yàn)樗屑铀倨鞫急仨氁ㄟ^(guò)一個(gè)通用的現(xiàn)成CPU訪問(wèn)額外內(nèi)存，這樣就無(wú)法達(dá)到內(nèi)存一致性，也就意味著加速器的性能無(wú)法被充分利用，也無(wú)法很好支持生成式AI時(shí)代的需求。”他分析道。

因此出現(xiàn)一種現(xiàn)代化系統(tǒng)架構(gòu)：每顆CPU都可以單獨(dú)和一個(gè)加速器相連，由此可實(shí)現(xiàn)較強(qiáng)的內(nèi)存一致性。“這種新型架構(gòu)的關(guān)鍵在于，設(shè)計(jì)方可以根據(jù)用戶(hù)實(shí)際場(chǎng)景和用例進(jìn)行CPU定制化設(shè)計(jì)，如此一來(lái)，便能提高加速器的使用效率。這種架構(gòu)設(shè)計(jì)，才能更好支持未來(lái)基礎(chǔ)設(shè)施的市場(chǎng)需求，包括生成式AI。”他續(xù)稱(chēng)。

但這種架構(gòu)并不是Arm的構(gòu)想，正是NVIDIA（英偉達(dá)）GH200 Grace Hopper超級(jí)芯片所使用的架構(gòu)。在該架構(gòu)中，72顆Arm Neoverse核心，加上來(lái)自NVIDIA的GPU組合，其AI性能較基于x86架構(gòu)的系統(tǒng)可提升10倍。

國(guó)內(nèi)已經(jīng)有大量采用Arm Neoverse的應(yīng)用案例。阿里巴巴倚天710就是基于Arm Neoverse平臺(tái)打造的CPU；鴻鈞微電子、遇賢微電子、云豹智能則根據(jù)需要基于Arm Neoverse平臺(tái)打造相應(yīng)SoC或DPU解決方案；聯(lián)想更多是將基于Arm架構(gòu)的解決方案部署到5G領(lǐng)域。

Arm中國(guó)區(qū)業(yè)務(wù)全球副總裁鄒挺介紹道，Arm Neoverse在中國(guó)市場(chǎng)，特別是基礎(chǔ)設(shè)施領(lǐng)域有很多客戶(hù)。過(guò)去三、四年中，整個(gè)Neoverse在中國(guó)的發(fā)展非常強(qiáng)勁。同時(shí)Arm也積極參與數(shù)據(jù)中心、云計(jì)算等本土生態(tài)、開(kāi)源軟件社區(qū)，包括龍蜥社區(qū)等，希望幫助這些社區(qū)更好融入Arm全球生態(tài)系統(tǒng)中。

Mohamed Awad在受訪時(shí)表示，現(xiàn)在判斷一個(gè)CPU對(duì)一個(gè)GPU作為加速器，是不是未來(lái)主趨勢(shì)或唯一趨勢(shì)，仍為時(shí)尚早。“但我認(rèn)為會(huì)發(fā)生的是，鑒于我們正處于計(jì)算加速時(shí)代，在未來(lái)架構(gòu)中，任何通用CPU旁，一定會(huì)有一個(gè)加速器。不管是通過(guò)緊密耦合、中度耦合或中散耦合的方式（進(jìn)行連接）。但具體這個(gè)加速器是什么樣、采用什么架構(gòu)，目前業(yè)界也在不斷探索中。”

更重要的是，該CPU是定制，跟加速器實(shí)現(xiàn)一對(duì)一組合后，整體鏈路及數(shù)據(jù)吞吐率會(huì)達(dá)到最高，以提高加速器本身的利用水平。

“Arm的獨(dú)特之處在于，能夠幫助合作伙伴從頭開(kāi)始、根據(jù)所需構(gòu)建定制化CPU，并做好CPU和加速器之間的連接。此外我們龐大豐富的軟件生態(tài)系統(tǒng)，可以賦能整個(gè)開(kāi)發(fā)，加速產(chǎn)品上市進(jìn)程。”他指出。

應(yīng)對(duì)定制化

生成式AI為半導(dǎo)體廠商進(jìn)一步打開(kāi)發(fā)展空間，當(dāng)然更多樣化的市場(chǎng)落地需求，也對(duì)相關(guān)芯片產(chǎn)品的靈活性提出更高要求。

Mohamed Awad指出，為了緩解未來(lái)基礎(chǔ)設(shè)施的壓力，行業(yè)需要依賴(lài)強(qiáng)大的軟件生態(tài)系統(tǒng)，在高效、可擴(kuò)展的多核計(jì)算基礎(chǔ)上，打造專(zhuān)用處理能力。為此，當(dāng)下的基礎(chǔ)設(shè)施建設(shè)已逐漸趨向定制化。“我們賦予合作伙伴將有限的資源專(zhuān)注在關(guān)鍵差異化的能力，Arm也繼續(xù)在提供可擴(kuò)展且高效的計(jì)算基礎(chǔ)。”

今年8月，Arm推出Arm Neoverse CSS（計(jì)算子系統(tǒng)），該產(chǎn)品預(yù)集成了Arm Neoverse平臺(tái)，并完成驗(yàn)證配置，可降低開(kāi)發(fā)成本并加速產(chǎn)品上市進(jìn)程。

合作伙伴反饋，通過(guò)使用Neoverse CSS，節(jié)省了80人/年的工程師時(shí)間；也有反饋稱(chēng)，Neoverse CSS助力他們的項(xiàng)目從概念到流片僅耗時(shí)13個(gè)月。

在Neoverse CSS基礎(chǔ)上，其又提出Arm全面設(shè)計(jì) (Arm Total Design)生態(tài)項(xiàng)目，旨在進(jìn)一步結(jié)合生態(tài)系統(tǒng)的力量，簡(jiǎn)化定制化芯片的開(kāi)發(fā)流程，讓交付變得更加容易、便捷，從而讓基于Arm Neoverse的專(zhuān)用解決方案能覆蓋AI、云、網(wǎng)絡(luò)、邊緣等各種基礎(chǔ)設(shè)施領(lǐng)域。

“人工智能時(shí)代已經(jīng)到來(lái)，AI的關(guān)鍵在于硬件和軟件緊密集成，以及性能和計(jì)算能力提升。當(dāng)今70%的機(jī)器學(xué)習(xí)工作負(fù)載運(yùn)行在Arm平臺(tái)上。”Mohamed Awad指出，Arm為移動(dòng)平臺(tái)所提供的Arm全面計(jì)算解決方案，能夠賦能移動(dòng)設(shè)備上AI的實(shí)現(xiàn)，推出的Arm Cortex-M52、Cortex-M55，都是針對(duì)物聯(lián)網(wǎng)所推出支持AI的產(chǎn)品。

他強(qiáng)調(diào)，Arm希望從更加廣義的角度界定AI。傳統(tǒng)意義上提到的AI主要指服務(wù)器中的AI或生成式AI，但AI其實(shí)還可以存在于邊緣、網(wǎng)絡(luò)中。即從傳統(tǒng)數(shù)據(jù)端，到存儲(chǔ)、服務(wù)器等，AI將融入每一個(gè)過(guò)程中。

Mohamed Awad介紹，Arm Neoverse平臺(tái)用例增長(zhǎng)迅速。目前全球主要公有云廠商都在提供基于Neoverse的云實(shí)例，“我們很多合作伙伴將會(huì)在2024年將第一代CSS設(shè)計(jì)投入生產(chǎn)，微軟Cobalt 100在2023年就已經(jīng)實(shí)現(xiàn)。”

來(lái)源：21世紀(jì)經(jīng)濟(jì)報(bào)道 作者：駱軼琪