在近日舉辦的昇騰AI開發(fā)者峰會(huì)上，全球AI開發(fā)者齊聚一堂，共同探討Agentic AI時(shí)代的技術(shù)創(chuàng)新與生態(tài)建設(shè)。本次峰會(huì)以“一起昇騰 共綻光芒”為主題，華為展示了其在AI基礎(chǔ)設(shè)施領(lǐng)域的最新突破，并宣布了一系列推動(dòng)開發(fā)者生態(tài)繁榮的重要舉措。

華為公司Fellow、半導(dǎo)體首席科學(xué)家廖恒在主題演講中指出，隨著Agentic AI的快速發(fā)展，AI芯片的核心指標(biāo)需求呈現(xiàn)差異化特征。針對(duì)預(yù)訓(xùn)練、推理等不同場(chǎng)景，算力、內(nèi)存帶寬、容量及互聯(lián)IO帶寬的優(yōu)先級(jí)各不相同。他特別強(qiáng)調(diào)，互聯(lián)能力是決定超節(jié)點(diǎn)性能的關(guān)鍵因素。通過昇騰950芯片的優(yōu)異互聯(lián)技術(shù)，可構(gòu)建出更高帶寬、更低延時(shí)的超節(jié)點(diǎn)系統(tǒng)，其綜合性能與超節(jié)點(diǎn)規(guī)模和單芯片性能的乘積成正比。

在技術(shù)挑戰(zhàn)方面，廖恒深入分析了MoE模型推理對(duì)時(shí)延的嚴(yán)苛要求。當(dāng)前，時(shí)延需壓縮至毫秒級(jí)，而傳統(tǒng)網(wǎng)絡(luò)架構(gòu)難以承載EP通信中細(xì)粒度、高頻次的數(shù)據(jù)交互。為此，華為提出將EP通信限制在Scale Up域內(nèi)完成，并根據(jù)通信顆粒度選擇Load&Store或DMA等優(yōu)化方案。針對(duì)KV Cache面臨的模型調(diào)用頻次和序列長度激增問題，華為創(chuàng)新設(shè)計(jì)了搭載UB端口的SSU單元，使帶寬提升至少一個(gè)數(shù)量級(jí)，同時(shí)保持95%以上的高命中率。

華為昇騰計(jì)算產(chǎn)品部部長周斌詳細(xì)介紹了軟件生態(tài)建設(shè)的最新成果。CANN作為昇騰軟件底座，已實(shí)現(xiàn)全層級(jí)開源開放，提供50余個(gè)源碼倉和完整的算子開發(fā)體系。針對(duì)不同開發(fā)者需求，昇騰提供了從Ascend C到PyPTO的全棧編程工具，并推出CANNBot算子智能體，將開發(fā)效率提升5倍以上。為降低開發(fā)門檻，昇騰全面兼容Python生態(tài)，支持Triton和TileLang等主流編程框架，覆蓋超600個(gè)Triton算子和300個(gè)TileLang算子。

在AI框架支持方面，昇騰與PyTorch生態(tài)實(shí)現(xiàn)深度對(duì)齊，提供2300多個(gè)API和40余個(gè)模型入圖能力。強(qiáng)化學(xué)習(xí)領(lǐng)域，通過與verl社區(qū)合作，訓(xùn)練效率提升2倍以上。推理場(chǎng)景中，昇騰成為vLLM Project和SGLang主倉的唯一自主創(chuàng)新硬件合作伙伴，長序列場(chǎng)景首Token時(shí)延降低30%。開源大模型推理引擎xLLM負(fù)責(zé)人劉童璇表示，該引擎已實(shí)現(xiàn)全模態(tài)模型推理加速，未來將深度適配昇騰950超節(jié)點(diǎn)技術(shù)。

為進(jìn)一步賦能開發(fā)者，昇騰宣布升級(jí)開發(fā)者使能計(jì)劃。新計(jì)劃提供一鍵自動(dòng)部署環(huán)境，開發(fā)者可免費(fèi)獲得100卡時(shí)初始算力。通過搭建Agent工作流，將復(fù)雜任務(wù)開發(fā)周期大幅壓縮。同時(shí)設(shè)立創(chuàng)新激勵(lì)基金，投放10000卡算力資源，重點(diǎn)支持算子、加速庫等領(lǐng)域的創(chuàng)新探索。峰會(huì)現(xiàn)場(chǎng)，華為為11名杰出個(gè)人和14個(gè)優(yōu)秀團(tuán)隊(duì)頒發(fā)了“昇騰開源貢獻(xiàn)獎(jiǎng)”，表彰他們?cè)诩夹g(shù)創(chuàng)新和生態(tài)建設(shè)中的突出貢獻(xiàn)。