SRAM究竟是什么？為何能夠迅速引來資金的追捧？

事情的起因是，AI芯片公司Groq2月19日宣布，其大模型Groq每秒輸出近500個token，成為全球最快大模型。這個速度可以秒殺ChatGPT-3.5。后者每秒生成速度僅為40個token。

Groq如此之快，背后全靠其自研的LPU芯片（語言處理單元）。LPU，是Groq專為圖形渲染而設(shè)計、包含數(shù)百個核心的并行處理器，能夠?yàn)锳I計算提供穩(wěn)定的性能。

資料顯示，Groq是由谷歌TPU第一代設(shè)計者喬納森·羅斯（Jonathan Ross）于2016年所創(chuàng)立。不同于傳統(tǒng)的CPU和GPU架構(gòu)，Groq從頭設(shè)計了一個張量流處理器（TSP）架構(gòu)，以加速人工智能、機(jī)器學(xué)習(xí)和高性能計算中的復(fù)雜工作負(fù)載，并將其定義為“語言處理單元”，即LPU。

值得關(guān)注的是，與GPU使用高帶寬存儲器（HBM）不同，LPU使用的是靜態(tài)隨機(jī)存儲器（SRAM）。

而北京君正不僅專注于存儲芯片，其主營產(chǎn)品正是嵌入式存儲和靜態(tài)隨機(jī)存儲器（SRAM）。由此，公司也迅速被敏銳的資金追捧，股價20日尾盤被直線拉至漲停。

SRAM能否對行業(yè)帶來改變甚至顛覆呢？

據(jù)Groq披露，一張LPU配備一塊SRAM，內(nèi)存是230MB。支持運(yùn)行一個AI模型，要配置約256張LPU，這需要4個滿載的服務(wù)器機(jī)架。一張LPU卡銷售超過2萬美元。

可是，同樣的AI模型采用GPU運(yùn)行，只需要1個H200，相當(dāng)于1/4個服務(wù)器機(jī)架密度。

簡單計算，256*2萬美元=512萬美元。H200還沒有公價，英偉達(dá)官網(wǎng)顯示，一張H100價格不超過4萬美元。即便是按照H200價格翻倍計算，那顯而易見，采用SRAM可比采用GPU貴多了，增加幾十倍以上成本。

對此，有存儲界人士表示，為了提升10倍的速度，增加大幾十倍成本，該路徑短期內(nèi)不具備大規(guī)模使用的可能性，也就不可能顛覆GPU了。