“為了支撐智能駕駛業(yè)務(wù)，我們不僅需要模型，需要不同形式的算力，也需要在終端部署的邊緣場(chǎng)景上做邊緣方面的協(xié)同?！比A為昇騰計(jì)算業(yè)務(wù)CTO周斌表示，“為此，華為深耕行業(yè)數(shù)年，2018年就發(fā)布了第一代全棧全場(chǎng)景AI解決方案。此后，我們克服了重重困難，并持續(xù)引進(jìn)資源和人才，在底層計(jì)算架構(gòu)、核心硬件、大規(guī)模集訓(xùn)系統(tǒng)、操作系統(tǒng)、編譯器、編程語言等方面進(jìn)行了全面投入，這些系統(tǒng)有力支撐了我們?cè)诖笠?guī)模智能駕駛領(lǐng)域的拓展?！?/p>

2023年3月23-24日，在2023光谷人工智能產(chǎn)業(yè)生態(tài)大會(huì)——智能網(wǎng)聯(lián)汽車專場(chǎng)。周斌表示，目前，華為實(shí)現(xiàn)了車端、路端、云端多領(lǐng)域業(yè)務(wù)的全方位覆蓋?！靶〉杰囕d零部件，大到系統(tǒng)性的AI計(jì)算中心，都可以用華為昇騰AI計(jì)算架構(gòu)來支撐?！?/p>

周斌 | 華為昇騰計(jì)算業(yè)務(wù)CTO

以下為演講內(nèi)容整理：

人工智能是新一代汽車的重要方向，伴隨著汽車智能化時(shí)代的到來，數(shù)據(jù)驅(qū)動(dòng)智能體系以及AI算力會(huì)成為智能網(wǎng)聯(lián)車非常重要的生產(chǎn)力要素。

智能網(wǎng)聯(lián)車行業(yè)需求和趨勢(shì)

隨著汽車智能化程度的持續(xù)提升，對(duì)大規(guī)模算力和數(shù)據(jù)的消耗也會(huì)不斷增加。以國(guó)際知名廠商的AI算力需求為例，每年大概需要7-8萬次的模型迭代，這意味著其智能計(jì)算系統(tǒng)每6-7分鐘就要完成一次完整的業(yè)務(wù)循環(huán)，并且業(yè)務(wù)循環(huán)數(shù)據(jù)量巨大。據(jù)我們?cè)u(píng)估，像ChatGPT這種規(guī)模的模型，需要消耗的算力約在10000P以上。

從L2-L4，有人說L4單車車載需要上千T，同時(shí)業(yè)務(wù)更新迭代越來越快，由原來的一周左右加速到一兩天。如何滿足巨大的算力底座需求？華為昇騰計(jì)算做了非常重要的工作。

我們探索了自動(dòng)駕駛業(yè)務(wù)，自動(dòng)駕駛對(duì)基礎(chǔ)設(shè)施的要求非常高，因?yàn)槠鋸?fù)雜的業(yè)務(wù)流程。首先數(shù)據(jù)增長(zhǎng)量非常大，每輛自動(dòng)駕駛汽車每天產(chǎn)生的數(shù)據(jù)量在1TB左右；同時(shí)這些數(shù)據(jù)必須要經(jīng)過標(biāo)注、清洗和預(yù)處理才成為后續(xù)處理的原材料，過程中有巨大的標(biāo)注處理算力需求。這意味著必須有足夠大的模型來支撐這樣的業(yè)務(wù)，尤其是關(guān)鍵業(yè)務(wù)。訓(xùn)練完成后會(huì)消耗巨大的算力和數(shù)據(jù)，此外業(yè)務(wù)場(chǎng)景中還要進(jìn)行各種方針和評(píng)估，需要不同形式的算力。最后在實(shí)際的車端部署，我們也會(huì)在邊緣的場(chǎng)景進(jìn)行協(xié)同。

整體來看，基礎(chǔ)設(shè)施主要呈現(xiàn)出以下幾個(gè)特征：首先需要高算力能效；其次隨著模型規(guī)模、數(shù)據(jù)規(guī)模的劇增，以及業(yè)務(wù)流程的增加，需要高帶寬、低延遲的互聯(lián)網(wǎng)絡(luò)，這會(huì)極大影響整個(gè)業(yè)務(wù)系統(tǒng)的處理能力。

昇騰自動(dòng)駕駛產(chǎn)品和解決方案

華為在人工智能領(lǐng)域深耕基礎(chǔ)，厚植根技術(shù)。從2018年第一代全棧全場(chǎng)景的AI解決方案發(fā)布，至今已有五年時(shí)間。過程中我們克服重重困難，持續(xù)跟進(jìn)市場(chǎng)投入，包括底層計(jì)算架構(gòu)、核心硬件、大規(guī)模的集訓(xùn)系統(tǒng)、操作系統(tǒng)、編譯器、編程語言以及各種各樣的加速庫(kù)等。

通過全棧自主開放兼容、靈活部署的AI算力底座，我們提供了完整的自動(dòng)駕駛和智能網(wǎng)聯(lián)體系的基礎(chǔ)解決方案。

圖源：華為昇騰

首先無論是車端還是訓(xùn)練平臺(tái)，我們都有完整的硬件產(chǎn)品。這些硬件產(chǎn)品經(jīng)歷長(zhǎng)時(shí)間大規(guī)模的產(chǎn)業(yè)印證，尤其在算力解決層面，給行業(yè)提供了基礎(chǔ)的軟硬件和圍繞著智能網(wǎng)聯(lián)汽車解決方案的可使用套件。包括框架、訓(xùn)練的模型以及更多的工具和調(diào)度系統(tǒng)。

同時(shí)，我們聯(lián)合伙伴一起推出自動(dòng)駕駛和智能網(wǎng)聯(lián)云服務(wù)體系，更好地支撐上層各種各樣的場(chǎng)景需要。我們也擁抱AI開放生態(tài)，第一時(shí)間以插件化方式靈活的進(jìn)入開源社區(qū)，讓大家能夠復(fù)用已有的模型資產(chǎn)。

除了硬件，圍繞著開源生態(tài)和模型體系我們打造了整套的軟硬件解決方案。大家不用重復(fù)造輪子，我們已經(jīng)做了非常多的適配，并開放給大家使用。首先我們會(huì)提供開源的優(yōu)選模型庫(kù)。目前提供了超400個(gè)開箱即用的人工智能模型，可以進(jìn)行分布式的大規(guī)模訓(xùn)練，使性能得以極大提升；同時(shí)構(gòu)建了諸多行業(yè)應(yīng)用套件，相關(guān)的API接口也可以兼容主流的框架，使得我們自主的AI生態(tài)能夠與社區(qū)對(duì)接起來。同時(shí)，我們與智能網(wǎng)聯(lián)體系中非常流行的開源套件社區(qū)進(jìn)行了深度的整合，如果您用到這種能力，在華為昇騰體系上可以進(jìn)行無縫遷移。

我們還做了非常多的模型測(cè)試，這個(gè)列表還在持續(xù)增加。類似ChatGPT這種大規(guī)模預(yù)系列模型，除了數(shù)據(jù)、模型算法外，底層算力系統(tǒng)的挑戰(zhàn)也非常大；自動(dòng)駕駛的系統(tǒng)數(shù)據(jù)量也在急速增加。如何高效的在AI計(jì)算機(jī)框架下進(jìn)行調(diào)度，是非常大的挑戰(zhàn)。

在這個(gè)領(lǐng)域，華為和合作伙伴有非常扎實(shí)的基礎(chǔ)和經(jīng)驗(yàn)，現(xiàn)在提供了分布式緩存加速，可以進(jìn)行PB級(jí)別的數(shù)據(jù)預(yù)處理，我們集群上信息度大于0.8，可以非常好的調(diào)度復(fù)雜、大規(guī)模的人工智能計(jì)算任務(wù)，這個(gè)平臺(tái)也是開放的。

圖源：華為昇騰

除調(diào)度外，我們的工具鏈涵蓋了自動(dòng)駕駛、模型、算子、場(chǎng)景開發(fā)的全流程，從模型遷移到整個(gè)訓(xùn)練，到數(shù)據(jù)預(yù)處理、后處理，再到模型的壓縮、減支、優(yōu)化部署等。在設(shè)計(jì)體系中，大家可以非常流暢的開發(fā)端到端的業(yè)務(wù)。

我們?cè)谖錆h部署的極致性能，極簡(jiǎn)易用的PoD集群，有非常強(qiáng)的算力系統(tǒng)、端到端的軟件以及軟硬件系統(tǒng)的聯(lián)合優(yōu)化。像自動(dòng)駕駛模型，在1024塔集成訓(xùn)練的條件下，訓(xùn)練效率比友商提升了136%。

合作與展望

通過上述介紹，我們希望通過華為昇騰人工智能計(jì)算中心，真正的在智能網(wǎng)聯(lián)體系中為我們的客戶降本增效，實(shí)現(xiàn)產(chǎn)業(yè)共贏；同事能夠?yàn)樽詣?dòng)駕駛社區(qū)提供端到端的業(yè)務(wù)服務(wù)，讓智能網(wǎng)聯(lián)產(chǎn)業(yè)得到蓬勃發(fā)展。

我們將立足武漢，服務(wù)武漢，聯(lián)合政府、企業(yè)、高校共同打造武漢區(qū)域的人工智能產(chǎn)業(yè)新高地。同時(shí)圍繞客戶第一，為我們的客戶提供原廠的專家服務(wù)，加速自動(dòng)駕駛創(chuàng)新應(yīng)用的開發(fā)和落地。

（以上內(nèi)容來自華為昇騰計(jì)算業(yè)務(wù)CTO周斌于2023年3月23-24日在2023光谷人工智能產(chǎn)業(yè)生態(tài)大會(huì)——智能網(wǎng)聯(lián)汽車專場(chǎng)發(fā)表的《昇騰AI構(gòu)建智能網(wǎng)聯(lián)車的算力底座》主題演講。）