<nav id="4uuuu"></nav>
  • <tr id="4uuuu"></tr>
  • <tr id="4uuuu"></tr>
  • <tfoot id="4uuuu"><dd id="4uuuu"></dd></tfoot>
    • <noscript id="4uuuu"><optgroup id="4uuuu"></optgroup></noscript>

      久久精品福利网站免费,亚洲色大情网站WWW在线观看,久久水蜜桃网国产免费网手机 ,男女性高视频免费观看国内,老色鬼第一页av在线,久久久久精品婷婷

      亞馬遜云科技的AI新版圖:升級自研CPU和AI芯片,強(qiáng)化與英偉達(dá)合作

      倪雨晴2023-11-30 11:10

      2023年,生成式AI成為科技巨頭們年度峰會的第一關(guān)鍵詞。

      美國當(dāng)?shù)貢r間11月28日,亞馬遜云科技(AWS)在re:Invent全球大會上開啟一系列產(chǎn)品更新,既有芯片、存儲等基礎(chǔ)設(shè)施,也有大模型服務(wù)平臺和AI助手。同時,亞馬遜云科技還和英偉達(dá)進(jìn)一步強(qiáng)化合作,大會首日的焦點幾乎都和生成式AI相關(guān)。

      亞馬遜云科技CEO Adam Selipsky在現(xiàn)場展示了AWS的生成式人工智能堆棧圖(Generative AI Stack),一共分為三層,首先是基礎(chǔ)設(shè)施,AI需要巨大的算力,其中就包括GPU、自研的Trainium等芯片;中間是AI大模型服務(wù)Amazon Bedrock,為開發(fā)者提供大模型支持、構(gòu)建自己的應(yīng)用;上層則是應(yīng)用,比如新推出的AI助手Amazon Q。

      大會上,AWS也在以上三個方面層層升級。而在戰(zhàn)況激烈的云賽場上,微軟云、谷歌云等也在系統(tǒng)性布局,從芯片、大模型再到應(yīng)用,其都已入場。隨著生成式AI進(jìn)化迭代,云計算也將迎來新的戰(zhàn)事。

      左手自研芯片,右手結(jié)盟英偉達(dá)

      AWS的自研芯片有多個產(chǎn)品,包括通用服務(wù)器芯片Graviton、用于機(jī)器學(xué)習(xí)的訓(xùn)練和推理的芯片Inferentia和Trainium等。此次大會上AWS更新了兩個系列,分別是Amazon Graviton4和Amazon Trainium2。

      Graviton系列是基于Arm架構(gòu)的服務(wù)器CPU,首款產(chǎn)品在2018年發(fā)布,近5年間一共更迭了四代。

      據(jù)介紹,Graviton4與Graviton3處理器相比,性能提升高達(dá)30%,獨立核心增加50%以上,內(nèi)存帶寬提升75%以上,為在Amazon EC2上運行的工作負(fù)載提供更優(yōu)的性能和能效。

      Trainium2芯片則專為生成式AI而來,日益增加的生成式 AI 應(yīng)用背后是基礎(chǔ)模型和大語言模型的支持,而這些大模型都需要使用海量數(shù)據(jù)集進(jìn)行訓(xùn)練。如今最先進(jìn)大模型通常包含數(shù)千億甚至數(shù)萬億個參數(shù)或變量,需要更強(qiáng)大的“暴力計算”。

      AWS表示,Trainium2與第一代Trainium芯片相比訓(xùn)練速度提升多達(dá)4倍,并能在EC2 UltraClusters中部署多達(dá)100000個芯片,可以在極短的時間訓(xùn)練基礎(chǔ)模型(FMs)和大語言模型(LLMs),同時能效提升多達(dá)2倍。

      而在自研芯片領(lǐng)域,谷歌推出TPU多年,近期微軟剛發(fā)布兩款芯片用于Azure云服務(wù),云廠商的芯片競爭也愈演愈烈,但在GPU領(lǐng)域,各家都離不開英偉達(dá)。

      此次,AWS就和英偉達(dá)進(jìn)一步合作,英偉達(dá)創(chuàng)始人黃仁勛也來到現(xiàn)場,共同討論圍繞生成式AI的開發(fā)。一方面,黃仁勛宣布部署全新的GPU系列 ,包括最新的GH200,而AWS將是第一家在云端配備具有多節(jié)點NVLink技術(shù)的NVIDIA GH200 Grace Hopper Superchips的云廠商。

      另一方面,NVIDIA DGX Cloud 也將登陸 AWS。黃仁勛表示,DGX Cloud是英偉達(dá)的人工智能工廠,可讓企業(yè)和軟件開發(fā)人員通過瀏覽器登入,即可獲得英偉達(dá)的超級計算機(jī)DGX的AI算力。這是英偉達(dá)提供的訓(xùn)練“云服務(wù)”,此前英偉達(dá)與微軟Azure、谷歌OCP、Oracle OCI等其他云廠商一起托管DGX Cloud基礎(chǔ)設(shè)施。如今,AWS也加入合作,在AWS上運行的DGX Cloud將加速訓(xùn)練含有超過1兆參數(shù)的生成式AI與大型語言模型。

      同時,英偉達(dá)還與AWS合作推動Ceiba項目,該超級計算機(jī)將配置16384顆NVIDIA GH200超級芯片,能處理高達(dá)65 exaflops速度等級的AI運算,從而推動生成式AI的創(chuàng)新。

      推AI助手Amazon Q ,大模型應(yīng)用賽跑 

      基礎(chǔ)設(shè)施之外,AWS也在大模型相關(guān)產(chǎn)品上迭代。Selipsky指出,客戶經(jīng)常對如何最好地實施和使用人工智能有許多相關(guān)問題,AWS希望通過其Bedrock平臺提供幫助。

      Bedrock平臺是中間的工具層,Bedrock能夠讓用戶使用大語言模型和其他基礎(chǔ)模型構(gòu)建生成式AI的應(yīng)用。Selipsky表示,Bedrock具有定制和安全優(yōu)勢,目前已經(jīng)有超過一萬名客戶在使用Bedrock,未來還會不斷擴(kuò)大。

      “(生成式AI)現(xiàn)在還處于早期階段,”Selipsky談道,不同模型通常會在不同的適用場景中表現(xiàn)更好,適應(yīng)能力非常重要。

      因此,Bedrock提供了對大量模型的訪問支持,包括Anthropic的Claude模型。Anthropic被認(rèn)為是OpenAI的勁敵,今年亞馬遜向Anthropic投資了40億美元,隨后Anthropic的模型也成為了AWS服務(wù)中的一部分。目前,亞馬遜已經(jīng)推出自研的Amazon Titan AI大模型,據(jù)悉更多模型也即將推出。

      同時,Bedrock也推出新功能,包括新的fine tuning(微調(diào))工具、新的檢索增強(qiáng)生成(RAG)技術(shù)、新的Agents使模型能夠針對特定用例進(jìn)行更加定制和優(yōu)化。

      此外,AWS還在會上推出了生成式AI驅(qū)動的助手Amazon Q,它主要用于工作場景中,比如輔助員工完成日常工作、總結(jié)文件、回答公司政策等。此前,OpenAI推出了火爆的ChatGPT,谷歌推出了Bard智能聊天機(jī)器人,如今亞馬遜也與之展開競爭。

      目前,Amazon Q的預(yù)覽版本已上線,部分功能可免費使用,正式版本中企業(yè)用戶的費用為每人每月20美元,具備額外功能的版本費用為每人每月25美元。對比來看,Microsoft 365的Copilot和 Google Workspace的Duet AI均需支付每人每月30美元。

      Selipsky指出,很多公司表示由于安全和隱私的擔(dān)憂,已經(jīng)禁止了企業(yè)使用這些人工智能助手。對此,亞馬遜設(shè)計Amazon Q時更注重安全性和隱私性。

      可以看到,當(dāng)前的云計算跑道上,單點競爭的時代已過,對大廠而言基礎(chǔ)設(shè)施、大模型、應(yīng)用服務(wù)都逐步成為標(biāo)配要素。尤其是生成式AI時代來臨,大而全的競爭正在開啟,眼下微軟云繼續(xù)下注加碼,AWS也在加速奔跑。

      來源:21世紀(jì)經(jīng)濟(jì)報道 作者:倪雨晴

      版權(quán)與免責(zé):以上作品(包括文、圖、音視頻)版權(quán)歸發(fā)布者【倪雨晴】所有。本App為發(fā)布者提供信息發(fā)布平臺服務(wù),不代表經(jīng)觀的觀點和構(gòu)成投資等建議
      久久精品福利网站免费
      <nav id="4uuuu"></nav>
    • <tr id="4uuuu"></tr>
    • <tr id="4uuuu"></tr>
    • <tfoot id="4uuuu"><dd id="4uuuu"></dd></tfoot>
      • <noscript id="4uuuu"><optgroup id="4uuuu"></optgroup></noscript>