電動(dòng)車百人會(huì)論壇:騰訊“云圖一體”數(shù)字基建,助力高階自動(dòng)駕駛落地
3月30日,中國(guó)電動(dòng) 汽車 百人會(huì)論壇(2025)在北京圓滿落幕。在大會(huì)AI汽車論壇上,騰訊智慧出行解決方案總經(jīng)理費(fèi)玉霞發(fā)表了題為《云圖一體,助力自動(dòng)駕駛落地》的主題演講。她指出,隨著智能汽車邁入“AI驅(qū)動(dòng)”時(shí)代,數(shù)據(jù)閉環(huán)能力已成為核心增長(zhǎng)引擎,騰訊整合了算力、網(wǎng)絡(luò)、數(shù)據(jù)、安全等方面的先進(jìn)技術(shù)和產(chǎn)品,助力汽車行業(yè)構(gòu)建新一代的車云一體化數(shù)據(jù)閉環(huán)。
費(fèi)玉霞表示:“車企在智能汽車發(fā)展上聚焦在智能駕駛、智能座艙、EE架構(gòu)等核心領(lǐng)域構(gòu)建自己獨(dú)特的優(yōu)勢(shì)和用戶體驗(yàn),這些是冰山之上的部分,在冰山之下其實(shí)還有一個(gè)龐大的體系,就是數(shù)據(jù)閉環(huán)的能力。騰訊致力于為車企解決好冰山下的底座能力,讓大家全力聚焦在核心業(yè)務(wù)上面。“
數(shù)據(jù)閉環(huán)是橫跨車端和云端的一個(gè)復(fù)雜體系,整個(gè)鏈路非常長(zhǎng)且復(fù)雜。為了支持好數(shù)據(jù)閉環(huán)的落地,騰訊構(gòu)建了五大基礎(chǔ)能力,分別是車端數(shù)據(jù)解決方案、云網(wǎng)絡(luò)解決方案、數(shù)據(jù)平臺(tái)解決方案、模型訓(xùn)練解決方案和全鏈路安全合規(guī)方案。
目前,騰訊已經(jīng)具備“一云多芯”能力來(lái)幫助車企管理異構(gòu)算力,向上提供統(tǒng)一的入口,向下屏蔽不同芯片之間的差異,混合算力集群利用率可以達(dá)到98.4%。在訓(xùn)練和推理方面,騰訊為車企、 科技 公司提供一站式的工具,開(kāi)箱即用,模型訓(xùn)練提效30%以上,推理效率提升最高2.5倍,推理運(yùn)行過(guò)程中GPU利用率能提升60%,幫助客戶用好每一張卡。
以下為演講實(shí)錄:
過(guò)去幾年智能汽車蓬勃發(fā)展,騰訊也深度參與其中。我們?cè)谶^(guò)去有很多落地的實(shí)踐,在這個(gè)過(guò)程中也遇到很多挑戰(zhàn),也有了一些解決方案,今天和大家做一個(gè)分享和匯報(bào)。希望在今天的交流互動(dòng)中能和大家看到新的場(chǎng)景,共同探索新的可能性。
2025年我們有三個(gè)熱詞:1、端到端大模型;2、VLM;3、VLA。按照我們開(kāi)玩笑一句話,這輛汽車很快就能變成汽車人了,實(shí)際上這件事情是有可能發(fā)生的,我們正在助力它進(jìn)一步發(fā)生。
當(dāng)我們談到大模型不得不關(guān)注底層算力,今天大模型底層算力從千卡級(jí)別躍升到萬(wàn)卡甚至十萬(wàn)卡級(jí)別,我們目前有類似的客戶集群規(guī)模到了七八萬(wàn)卡。面對(duì)這么大算力集群的時(shí)候,一個(gè)最顯著的問(wèn)題就是我們集群里面有非常多種類型的算力卡在里面,這時(shí)候會(huì)對(duì)模型訓(xùn)練造成巨大的挑戰(zhàn),因?yàn)槊總€(gè)芯片提供的算力是不一樣的。整個(gè)行業(yè)都在呼吁具備多種芯片管理能力的云平臺(tái)盡快出現(xiàn)。
今天,騰訊在提供算力的同時(shí),也在積極解決這個(gè)問(wèn)題,我們?nèi)孢m配市面上各種類型的芯片。向上我們提供統(tǒng)一的入口,向下屏蔽不同芯片之間的差異。騰訊自研的大模型——混元,其實(shí)底層也有多種類型的GPU卡組成。 騰訊在混合訓(xùn)練平臺(tái)里面結(jié)合云端“一云多芯”能力,混合算力集群利用率可以達(dá)到98.4%。
第二,除了異構(gòu)算力之外,我們還需要進(jìn)一步提升訓(xùn)練和推理效率。我們?yōu)檐嚻蟆⒖萍脊咎峁┮徽臼降墓ぞ撸_(kāi)箱即用。在這個(gè)工具里面內(nèi)置很多預(yù)訓(xùn)練的大模型。同時(shí),我們提供了訓(xùn)練加速和推理加速套件, 在訓(xùn)練的過(guò)程中,我們能對(duì)訓(xùn)練進(jìn)行30%的提效,在推理過(guò)程中,我們能讓推理效率提升最高2.5倍,在推理運(yùn)行過(guò)程中GPU利用率能提升60%,幫助我們客戶用好每一張卡。
在算力平臺(tái)之上,我們構(gòu)建端到端的數(shù)據(jù)閉環(huán),在這個(gè)體系之上,我們可以幫助車企在上層應(yīng)用方面充分利用好數(shù)據(jù),構(gòu)建車企自身的模型和算法,加速迭代。
在算法演進(jìn)同時(shí),數(shù)據(jù)閉環(huán)也是其中關(guān)鍵的一環(huán)。數(shù)據(jù)閉環(huán)離不開(kāi)云底座的支撐,騰訊在全球范圍運(yùn)營(yíng)21個(gè)地理區(qū)域,58個(gè)可用區(qū),全球范圍3200個(gè)加速節(jié)點(diǎn),可以為遍布全球的智能汽車提供高質(zhì)量的就近接入服務(wù)。在公有云之外,騰訊云按照自然資源部對(duì)地理信息數(shù)據(jù)的要求構(gòu)建了兩個(gè)專屬的云專區(qū),分別位于華東(上海)和華北(河北懷來(lái)),這兩個(gè)云專區(qū)的網(wǎng)絡(luò)既獨(dú)立于公有云,與 互聯(lián)網(wǎng) 物理隔離,滿足合規(guī)要求,又沿用了公有云相同的產(chǎn)品和技術(shù)架構(gòu)。 騰訊也是業(yè)界第一個(gè)建設(shè)自動(dòng)駕駛專有云的廠商,至今為止也是唯一能夠提供“兩地三中心”自動(dòng)駕駛云解決方案的云廠商。
先發(fā)優(yōu)勢(shì)讓我們結(jié)識(shí)很多行業(yè)伙伴,也有很多落地實(shí)踐,在服務(wù)行業(yè)客戶的過(guò)程中,我們積累了全面的服務(wù)能力,囊括了自動(dòng)駕駛方方面面的需求,包含數(shù)據(jù)采集、數(shù)據(jù)注入、數(shù)據(jù)脫敏、數(shù)據(jù)標(biāo)注、數(shù)據(jù)管理、模型訓(xùn)練、仿真驗(yàn)證等。與此同時(shí),我們也看到行業(yè)里面對(duì)高質(zhì)量數(shù)據(jù)的大規(guī)模的要求。2023年,把我們的地圖數(shù)據(jù)以服務(wù)的形式開(kāi)放出來(lái),到今天為止有很多OEM和科技公司都采購(gòu)了我們的地圖數(shù)據(jù)服務(wù),用于自動(dòng)駕駛研發(fā)和自動(dòng)駕駛量產(chǎn)運(yùn)營(yíng),效果也非常的不錯(cuò)。在今年仍有很多旺盛的需求出現(xiàn)。
要落實(shí)數(shù)據(jù)閉環(huán)能力就繞不開(kāi)兩件事情:1、合規(guī),因?yàn)樽詣?dòng)駕駛涉及大量的地理信息數(shù)據(jù);2、安全,這也是我們繞不開(kāi)的。合規(guī)約束的引入有可能會(huì)拖慢業(yè)務(wù)迭代的效率,如何兼顧合規(guī)和效率是一大課題。與此同時(shí),車企進(jìn)行體系化的安全建設(shè),同樣會(huì)帶來(lái)體系的復(fù)雜性,如何既落實(shí)全棧安全,又能讓安全更加簡(jiǎn)單可靠是另外一大命題。但是我們已經(jīng)很好解決了這個(gè)問(wèn)題。至于我們是怎么做的,說(shuō)起來(lái)簡(jiǎn)單做起來(lái)復(fù)雜。簡(jiǎn)而言之,我們會(huì)深入客戶的業(yè)務(wù)場(chǎng)景中,這意味著我們的架構(gòu)師、交付工程師需要深刻理解自動(dòng)駕駛研發(fā)的方方面面才能深入每一個(gè)細(xì)節(jié),才能讓我們的合規(guī)和安全貼合業(yè)務(wù),我們這樣的做法和方案也獲得廣泛的認(rèn)可,從2022年到今天我們服務(wù)了很多的車企和科技公司。
騰訊在整合算力、網(wǎng)絡(luò)、數(shù)據(jù)、安全等方面的先進(jìn)技術(shù)和產(chǎn)品,助力行業(yè)構(gòu)建新一代的車云一體化數(shù)據(jù)閉環(huán),目前已經(jīng)和很多車企都做了落地。車企在智能駕駛發(fā)展上聚焦在智能駕駛、智能座艙、EE架構(gòu)等核心領(lǐng)域構(gòu)建自己獨(dú)特的優(yōu)勢(shì)和用戶體驗(yàn),這些只是冰山之上的部分,在冰山之下其實(shí)還有一個(gè)龐大的體系,這個(gè)龐大的體系就是數(shù)據(jù)閉環(huán)的能力,是冰山之上所有能力的核心。 今天騰訊致力于為車廠解決好冰山下的底座能力,讓大家全力聚焦在核心業(yè)務(wù)上面。
數(shù)據(jù)閉環(huán)是橫跨車端和云端的一個(gè)復(fù)雜體系,我們打開(kāi)一個(gè)車企的數(shù)據(jù)閉環(huán)團(tuán)隊(duì)可以發(fā)現(xiàn),涉及到各類團(tuán)隊(duì),有算法、數(shù)據(jù)、Infra等等,這個(gè)體系涉及到車端的數(shù)據(jù)采集、網(wǎng)絡(luò)傳輸上云,再到云端進(jìn)行數(shù)據(jù)處理、算法優(yōu)化、新的能力下發(fā)到車端實(shí)現(xiàn)功能升級(jí),整個(gè)鏈路非常長(zhǎng)且復(fù)雜。 為了支持好數(shù)據(jù)閉環(huán)的落地,我們構(gòu)建了五大基礎(chǔ)能力,分別是車端數(shù)據(jù)解決方案、云網(wǎng)絡(luò)解決方案、數(shù)據(jù)平臺(tái)解決方案、模型訓(xùn)練解決方案和全鏈路安全合規(guī)方案。
提到數(shù)據(jù)閉環(huán)不得不提到數(shù)據(jù)的車端方案,剛才我們看到數(shù)據(jù)入車和出車是兩個(gè)難題,車端的感知數(shù)據(jù)和用戶數(shù)據(jù)都會(huì)涉及到安全合規(guī)約束。這給車端數(shù)據(jù)處理帶來(lái)非常大的挑戰(zhàn),騰訊提供了豐富的車端數(shù)據(jù)解決方案,其中包含數(shù)據(jù)采集、數(shù)據(jù)脫敏處理、數(shù)據(jù)上行、數(shù)據(jù)下行等全鏈路解決方案,可以在車云兩端進(jìn)行高效數(shù)據(jù)交換。騰訊的車端解決方案具備很多優(yōu)勢(shì):
1、廣泛的兼容性,通過(guò)項(xiàng)目和各類不同的操作系統(tǒng)包括芯片架構(gòu)進(jìn)行了適配;
2、我們的方案適用面也很廣,對(duì)于回傳文件的大小可以做自適應(yīng)兼容,最大可以支持30G的單文件的傳輸,在傳輸過(guò)程中也支持?jǐn)帱c(diǎn)續(xù)傳、動(dòng)態(tài)分片。在實(shí)際項(xiàng)目里面即便在5%丟包量、300毫秒延遲的弱網(wǎng)環(huán)境下,數(shù)據(jù)依然可以可靠地傳到云端上來(lái);
3、騰訊的車端數(shù)據(jù)解決方案對(duì)資源占有限,效率也很高,我們就以加密為例,非對(duì)稱加密性能提升50%,對(duì)稱加密性能提升1.87倍。
4. 最后在合規(guī)方面騰訊有全鏈路解決方案,可以一站合規(guī)。
在云端的處理環(huán)節(jié),我們現(xiàn)在認(rèn)為有兩個(gè)非常基礎(chǔ)也非常典型的挑戰(zhàn)。
第一,大規(guī)模數(shù)據(jù)的交付周期長(zhǎng)、成本非常高,因?yàn)槲覀円屲嚾ヂ范巳ゲ杉脖P快遞的方式送到云上來(lái),這個(gè)過(guò)程非常耗時(shí),也會(huì)存在非常大的交付風(fēng)險(xiǎn)。尤其在智能駕駛當(dāng)下集體卷的時(shí)候,經(jīng)常成為算法迭代的瓶頸。為了解決這個(gè)挑戰(zhàn),我們做了一件事情,我們把騰訊地圖采集的數(shù)據(jù)進(jìn)行了預(yù)處理、加工和適配,這些數(shù)據(jù)可以用于標(biāo)注也可以用于自動(dòng)駕駛訓(xùn)練。從2023年年底到現(xiàn)在,我們服務(wù)了很多客戶。以我們的真實(shí)數(shù)據(jù)為例,在自動(dòng)化標(biāo)注場(chǎng)景里能提升10倍效率,把成本降低90%。
第二個(gè)挑戰(zhàn),如何從海量數(shù)據(jù)中高效挖掘高質(zhì)量的數(shù)據(jù),我們推出兩款產(chǎn)品和服務(wù):1、數(shù)據(jù)萬(wàn)象;2、向量數(shù)據(jù)庫(kù)。數(shù)據(jù)萬(wàn)象是多模態(tài)的SaaS型產(chǎn)品,基于視覺(jué)大語(yǔ)言模型構(gòu)建,它的泛化性非常好,所以非常適合Conercase的挖掘,實(shí)測(cè)結(jié)果是準(zhǔn)召率超過(guò)95%。第二個(gè)產(chǎn)品是向量數(shù)據(jù)庫(kù),非常適合基于向量數(shù)據(jù)的挖掘,向量數(shù)據(jù)庫(kù)可以支撐千億級(jí)向量規(guī)模,支持500萬(wàn)QPS峰值,和目前行業(yè)水平來(lái)看我們性能有1.5倍提升,這些不僅能降本也能增效。
以上是騰訊在過(guò)去多年的積累和實(shí)踐經(jīng)驗(yàn)。我們始終專注于做好“冰山之下”的基礎(chǔ)設(shè)施,讓汽車行業(yè)伙伴能夠更專注于上層的智能化應(yīng)用創(chuàng)新,專注于模型和算法的迭代,專注于用戶體驗(yàn)的持續(xù)完善,讓我們一起攜手邁向AI汽車新時(shí)代。謝謝!