華為助力中國電信智算昇騰超節(jié)點正式商用啟航 算力新引擎加速行業(yè)智能化
4月26日,中國電信粵港澳大灣區(qū)智算昇騰超節(jié)點在粵港澳大灣區(qū)一體化數(shù)據(jù)中心正式商用發(fā)布,標志著最強智能算力注入粵港澳大灣區(qū)國家級算力樞紐節(jié)點。廣東省委常委、副省長張國智,中國電信董事長柯瑞文,韶關(guān)市委書記陳少榮,華為公司董事、質(zhì)量流程IT總裁陶景文出席并致辭。中國電信云網(wǎng)發(fā)展部(國際部)總經(jīng)理董濤發(fā)表主題演講,中電信人工智能 科技 有限公司副總經(jīng)理楊戈匯報基于超節(jié)點的大模型研發(fā)計劃。中國電信廣東公司總經(jīng)理張濤、副總經(jīng)理王湘江、副總經(jīng)理李進出席活動。
華為助力中國電信打造的智算昇騰超節(jié)點成為粵港澳大灣區(qū)內(nèi)最快部署、最先投產(chǎn)、最先進的智算集群,滿足高性能高可靠的大模型訓(xùn)練需求和高吞吐低時延的大模型推理需求,為大灣區(qū)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展注入了新動能,開啟賦能政務(wù)、制造、教育醫(yī)療等行業(yè)智能化。這不僅是技術(shù)的突破,更是對區(qū)域和國家數(shù)字 經(jīng)濟 發(fā)展的有力推動。
陶景文介紹,大模型參數(shù)量級跨越式增長,頂尖AI公司日均tokens消耗突破12萬億量級,多模態(tài)融合交互,層出不窮的AI新應(yīng)用都對算力效率提出了更高要求。中國電信率先推出全球首個智算昇騰超節(jié)點商用集群,該超節(jié)點采用昇騰AI基礎(chǔ)軟硬件,結(jié)合高速總線互聯(lián),具備大規(guī)模、高性能、高可用等特性。超節(jié)點架構(gòu)成功突破算力瓶頸,使用TB級全互聯(lián)帶寬、內(nèi)存統(tǒng)一編址及統(tǒng)一通信協(xié)議等前沿技術(shù),實現(xiàn)訓(xùn)練效率提升2.7倍。其還運用大規(guī)模專家并行推理集群解決方案,通過多專家負載均衡和極致通信優(yōu)化,實現(xiàn)高吞吐和低時延,大幅提升推理效率,能夠充分滿足未來千億至萬億級 MOE 大模型的訓(xùn)練與推理需求。
華為將繼續(xù)加大力度,支撐中國電信基于昇騰超節(jié)點優(yōu)化、迭代自研星辰大模型,升級大模型能力,為用戶提供更優(yōu)質(zhì)的服務(wù);同時,基于昇騰超節(jié)點對外賦能,促進 AI 賦能政務(wù)辦公和服務(wù)升級,加速AI在實體經(jīng)濟中落地。助力中國電信進一步鞏固在國內(nèi)人工智能領(lǐng)域的產(chǎn)業(yè)引領(lǐng)地位,強化算力布局先發(fā)優(yōu)勢,持續(xù)推進智算服務(wù)升級。
陶景文最后總結(jié):"展望未來,華為將秉持開放、合作、共贏理念,與中國電信及廣大合作伙伴,持續(xù)加大AI研發(fā)投入,深化在基礎(chǔ)設(shè)施建設(shè)、產(chǎn)業(yè)生態(tài)培育、行業(yè)創(chuàng)新應(yīng)用等方面的合作,把粵港澳大灣區(qū)昇騰超節(jié)點智算集群打造成國內(nèi)領(lǐng)先、國際一流的智算平臺,為大灣區(qū)數(shù)字經(jīng)濟發(fā)展提供算力支撐。”