華為云發(fā)布AI原生云基礎(chǔ)設(shè)施架構(gòu)CloudMatrix,新一代昇騰AI云服務(wù)將于年底上線
如今,AI算力需求高速增長,正在超越對通用算力的需求。構(gòu)建彈性、高效的多元算力基礎(chǔ)設(shè)施是AI發(fā)展的關(guān)鍵。為了進(jìn)一步提升AI原生基礎(chǔ)設(shè)施的效能,華為云推出AI原生云基礎(chǔ)設(shè)施CloudMatrix,將CPU、NPU、DPU、存儲和內(nèi)存等資源全部互聯(lián)和池化,構(gòu)建“一切可池化、一切皆對等、一切可組合”的分布式對等全互聯(lián)架構(gòu),實現(xiàn)了單體算力向矩陣算力的演進(jìn),為客戶提供澎湃的AI算力。
一切可池化:華為通過CPU、NPU為客戶提供通用計算和智能計算。同時,華為云分布式QingTian技術(shù)幫助突破單服務(wù)器的能力邊界,將服務(wù)器內(nèi)的CPU、NPU、DPU、存儲和內(nèi)存等多樣資源的統(tǒng)一池化并靈活配置,以此形成大規(guī)模、緊耦合的多元算力池化架構(gòu),算力得到大幅提升。
一切皆對等:CloudMatrix通過超高帶寬ScaleUp網(wǎng)絡(luò)從“傳統(tǒng)以太網(wǎng)”向“共享總線以太網(wǎng)”演進(jìn),實現(xiàn)池化算力的高速互聯(lián),同時通過自適應(yīng)拓?fù)涓兄蚱萍壕性度瓶頸。能夠降大模型訓(xùn)練集群的線性度提升至95%,網(wǎng)絡(luò)故障分鐘級恢復(fù)。
一切可組合:在統(tǒng)一多元算力邏輯池化、高速全對等互聯(lián)的基礎(chǔ)上,通過瑤光智能云腦對云上資源進(jìn)行多元算力統(tǒng)一建模、靈活調(diào)度組合,按需提供給應(yīng)用。覆蓋大模型和小模型的訓(xùn)練和推理,同時,還能夠用在數(shù)據(jù)分析、媒體內(nèi)容生成等更多應(yīng)用場景。
華為云宣布,基于CloudMatrix的新一代昇騰AI云服務(wù)將于年底上線。
網(wǎng)友評論
智能應(yīng)用排行
- 網(wǎng)易 UU 加速器完成鴻蒙原生應(yīng)用開發(fā),上線 HarmonyOS
- 蘋果官方認(rèn)可“越獄”術(shù)語:特殊版iPhone罕見現(xiàn)身 用于查找
- 京東11.11再次發(fā)力數(shù)字人:成本更低、直播流量傾斜,成電商
- 釘釘公布數(shù)據(jù):用戶數(shù)7億 軟件付費企業(yè)數(shù)12萬
- AI大模型讓智慧交通“更聰明” 海信亮相2024世界人工智能大
- 沃爾瑪?shù)娜斯ぶ悄芰闶鄣暌严蚬婇_放
- 歐瑞博攜手南方科技大學(xué)打造智能新能源住宅技術(shù)聯(lián)合實驗室
- 都是科技的狠活?2024中國國際消費電子博覽會即將全新亮相
- 百度:智能云業(yè)務(wù)Q1營收47億元,生成式AI貢獻(xiàn)比例達(dá)6.9%
最新智能應(yīng)用
- 京東11.11再次發(fā)力數(shù)字人:成本更低、直播流量傾
- 歐瑞博攜手南方科技大學(xué)打造智能新能源住宅技術(shù)聯(lián)
- 網(wǎng)易 UU 加速器完成鴻蒙原生應(yīng)用開發(fā),上線 H
- 都是科技的狠活?2024中國國際消費電子博覽會即將
- 百度沈抖:百舸4.0升級發(fā)布,模型訓(xùn)練有效時長達(dá)
- 華為云發(fā)布AI原生云基礎(chǔ)設(shè)施架構(gòu)CloudMatrix,新
- 阿里CEO吳泳銘:AI算力需求滲透率已超50%,正主導(dǎo)
- 羅技發(fā)布 G PRO 2 LIGHTSPEED(GPW4 朱雀)
- 華為:將啟動“鴻蒙生態(tài)伙伴及開發(fā)者見非凡體驗計
- 華為運動健康發(fā)布玄璣感知系統(tǒng) 華為手表或?qū)⒅С?/a>