經(jīng)濟(jì)觀察網(wǎng) 記者 沈怡然 8月10日,第五屆OCP China Day 2023(開放計(jì)算中國技術(shù)峰會)在京召開。會上,三星電子、安謀科技、浪潮信息、世紀(jì)互聯(lián)等多家計(jì)算設(shè)施提供商提出,AI大模型對傳統(tǒng)計(jì)算設(shè)施帶來新的挑戰(zhàn),企業(yè)作為提供大模型裝備方,需要盡快解決關(guān)鍵芯片容量不足、計(jì)算接口和生態(tài)不統(tǒng)一的問題。
OCP(OpenComputeProject開放計(jì)算項(xiàng)目)起源于Facebook為解決自身數(shù)據(jù)中心建設(shè)需求而成立一個基金組織,發(fā)展至今,吸引眾多重量級企業(yè)參與其中。
會上,三星電子副總裁、半導(dǎo)體事業(yè)軟件開發(fā)團(tuán)隊(duì)負(fù)責(zé)人張實(shí)完表示,生成式AI浪潮引爆了企業(yè)對芯片元器件的需求,其中,對存儲芯片的容量和性能的需求急劇增加,內(nèi)存芯片正面臨內(nèi)存墻限制的挑戰(zhàn)。
內(nèi)存墻限制指的是在計(jì)算機(jī)系統(tǒng)中,中央處理器(CPU)和主內(nèi)存之間的數(shù)據(jù)傳輸速度不斷提高,而存儲設(shè)備的訪問速度卻沒有同樣的增長。這種速度不匹配導(dǎo)致了計(jì)算機(jī)性能瓶頸,在某種程度上形成了一道堵塞的“墻”。
三星電子在2023年Q2財(cái)報(bào)會上表示,隨著大型企業(yè)之間加劇競爭生成式AI服務(wù),公司收到了來自客戶的大量需求,這是發(fā)生在半導(dǎo)體下行周期中的罕見現(xiàn)象。尤其是用戶對 HBM(一種高帶寬存儲芯片)的需求正快速增長,公司考慮對HBM擴(kuò)產(chǎn),同時迭代該產(chǎn)品技術(shù)。
張實(shí)完稱,“首要的解決方案是引入主動存儲(Active Memory)建立全新內(nèi)存層次結(jié)構(gòu),其次是發(fā)展以數(shù)據(jù)為中心的計(jì)算技術(shù)”。
張實(shí)完表示,實(shí)際上,“內(nèi)存墻”并不是三星面臨的唯一挑戰(zhàn),以更快的速度處理數(shù)據(jù)需要大量的功耗,這將不可避免地導(dǎo)致大量碳排放。為此,三星開發(fā)以及應(yīng)用了生命周期評估(LCA)流程來計(jì)算和檢測所有產(chǎn)品的碳排放量,以減少產(chǎn)品生命周期和半導(dǎo)體供應(yīng)鏈中對環(huán)境的影響。
會上,浪潮信息服務(wù)器產(chǎn)品線總經(jīng)理趙帥表示,中國企業(yè)發(fā)布的大模型數(shù)量超過110個,引發(fā)了對人工智能更為劇烈的算力需求。但是,由于各廠商技術(shù)路線不同,芯片的接口互聯(lián)協(xié)議和兼容性也有所不同,從而導(dǎo)致整個計(jì)算基礎(chǔ)設(shè)施在建設(shè)中不得不面臨著硬件分裂化和生態(tài)離散化的挑戰(zhàn)。
趙帥稱,將專有的硬件系統(tǒng)集成到整機(jī)系統(tǒng)中的“煙囪式”發(fā)展模式,需要花費(fèi)更多的時間和成本,這會阻礙了應(yīng)用的創(chuàng)新和算力產(chǎn)業(yè)的普惠發(fā)展。
會上,浪潮信息發(fā)布了《開放加速規(guī)范AI服務(wù)器設(shè)計(jì)指南》。趙帥稱,這是為了進(jìn)一步發(fā)展和完善規(guī)范AI服務(wù)器的設(shè)計(jì)理論和設(shè)計(jì)方法。通過開放設(shè)計(jì)指南對主機(jī)接口、供電方式、散熱方式、管理接口、卡機(jī)的互聯(lián)等進(jìn)行梳理,可以顯著降低AI算力產(chǎn)業(yè)化成本,提速多元算力普惠的進(jìn)程。
京公網(wǎng)安備 11010802028547號