經(jīng)濟(jì)觀察網(wǎng) 記者 沈怡然 國產(chǎn)算力長(zhǎng)期面臨兩大問題：第一，國產(chǎn)GPU缺乏生態(tài)支持難以替代英偉達(dá)的GPU；第二，如何在國產(chǎn)GPU單卡性能有限的條件下，通過其他技術(shù)手段提升整體算力水平。

在9月27日至29日舉行的2024年中國算力大會(huì)上，產(chǎn)業(yè)各方著重探討解決辦法。

降低遷移成本

國內(nèi)的AI大模型通常在英偉達(dá)的GPU硬件上運(yùn)行，如果用戶想從英偉達(dá)的硬件遷移到其他國產(chǎn)GPU，需要面對(duì)代碼兼容性的問題。

對(duì)此，中國移動(dòng)（600941.SH）在大會(huì)上發(fā)布了一款用于芯片架構(gòu)遷移的工具。這個(gè)工具名叫“芯合”，可以幫助用戶將基于英偉達(dá)生態(tài)鏈編寫的代碼遷移到華為或其他國產(chǎn)硬件平臺(tái)上，從而降低算力用戶的遷移成本。

一位中國移動(dòng)人士對(duì)經(jīng)濟(jì)觀察網(wǎng)稱，很多AI大模型用戶希望采用國產(chǎn)芯片，但過高的遷移成本是一個(gè)巨大障礙。開發(fā)“芯合”是為幫助AI大模型用戶減少遷移成本，最終目標(biāo)是讓國產(chǎn)GPU更快被市場(chǎng)接受。在正式發(fā)布之前，該工具已經(jīng)小規(guī)模試用了一段時(shí)間。

一直以來，國產(chǎn)廠商的硬件架構(gòu)與英偉達(dá)不兼容，國產(chǎn)廠商各自的架構(gòu)也不兼容，所以用戶原本在英偉達(dá)GPU上優(yōu)化的代碼可能無法直接在國產(chǎn)GPU上運(yùn)行。

該人士稱，“芯合”為用戶省去了手動(dòng)修改大量代碼的工作。此外，遷移工具可以幫助用戶在不同生態(tài)之間切換，不需要重新編寫整個(gè)程序。遷移過程中可能會(huì)給用戶帶來性能損耗，但損耗可以維持在10%以內(nèi)。

國產(chǎn)GPU公司瀚博半導(dǎo)體對(duì)經(jīng)濟(jì)觀察網(wǎng)稱，算力國產(chǎn)化需要企業(yè)打破各自獨(dú)立的體系，共同構(gòu)建一個(gè)生態(tài)，“芯合”是一個(gè)鼓舞人心的開始，公司會(huì)積極參與到該項(xiàng)目中。

華為作為算力設(shè)施的建設(shè)者，也提供了一些方法幫助大模型用戶向國產(chǎn)GPU遷移。

一位華為人士對(duì)經(jīng)濟(jì)觀察網(wǎng)稱，華為提供了從硬件到軟件的一整套解決方案，包括AI芯片、編程語言、開發(fā)工具和AI框架。但是，市面上的工程師和運(yùn)維人員大多不熟悉華為的架構(gòu)，導(dǎo)致用戶在使用華為算力系統(tǒng)時(shí)，一旦出現(xiàn)問題，除了華為員工，很難找到其他能解決問題的工程師。

華為在國內(nèi)的AI芯片和服務(wù)器市場(chǎng)中占有較大的份額，這家公司一直在各省設(shè)有支持中心。該華為人士稱，近期，這些支持中心開始免費(fèi)幫助用戶和客戶做遷移，降低他們遷移到華為平臺(tái)上的成本。

挑戰(zhàn)萬卡集群

國產(chǎn)算力的第二個(gè)難題是，國產(chǎn)GPU性能受限，使得智算中心需要從千卡規(guī)模邁入萬卡甚至是十萬卡規(guī)模。

9月28日，中國工程院院士劉韻潔在主論壇上表示，中國在單卡GPU性能上無法和國外競(jìng)爭(zhēng)，起碼短時(shí)間內(nèi)做不到。

一位中國電信（601728.SH）人士對(duì)經(jīng)濟(jì)觀察網(wǎng)表示，與海外GPU相比，國產(chǎn)GPU可能需要堆疊更多的量達(dá)到相同的算力水平，這也是為什么需要打造萬卡規(guī)模算力。然而，就像管理一萬人比管理一千人要難得多，打造萬卡規(guī)模的算力集群面臨諸多挑戰(zhàn)。

電信運(yùn)營商通常是算力設(shè)施的投資方或運(yùn)營方。在過去一年，中國電信在上海和北京建了兩個(gè)國產(chǎn)萬卡公共智算中心，算力規(guī)模分別是3.5EFLOPS和3.75EFLOPS。2024年8月，中國移動(dòng)在哈爾濱1.8萬卡規(guī)模的超大智算中心，算力規(guī)模是6.9EFLOPS。

針對(duì)萬卡規(guī)模帶來的技術(shù)挑戰(zhàn)，中國移動(dòng)在9月27日公布了多項(xiàng)技術(shù)方案：GPU卡間互聯(lián)協(xié)議，全調(diào)度以太網(wǎng)技術(shù)體系，融合存儲(chǔ)方案等。

簡(jiǎn)單來說，這是為了把上萬張GPU卡和上千臺(tái)服務(wù)器互聯(lián)起來，并讓它們之間快速通信以傳輸數(shù)據(jù)，還要確保它們?cè)陂L(zhǎng)時(shí)間運(yùn)行時(shí)穩(wěn)定，不會(huì)中斷。當(dāng)出現(xiàn)故障時(shí)能快速找到故障點(diǎn)并讓AI輔助診斷。

上述中國移動(dòng)人士稱，這些技術(shù)的開發(fā)難度很高，目前還在小規(guī)模驗(yàn)證階段，中國移動(dòng)需要聯(lián)合服務(wù)器和GPU企業(yè)一起做測(cè)試，預(yù)計(jì)明年大規(guī)模運(yùn)用。