近日，昇腾AI开发者峰会在北京盛大举行，本次峰会以“一起昇腾 共绽光芒”为主题，吸引了全球众多开发者齐聚一堂，共同探讨前沿技术，打造了一场面向开发者的思想盛宴。昇腾秉持开源开放理念，持续为开发者提供便捷易用的开发工具，致力于构建繁荣的开发者生态，携手开发者共创美好未来。
在AI技术迅猛发展的当下，Agentic AI成为焦点。华为在AI Infra层面已率先开启超节点时代。华为公司Fellow、半导体首席科学家廖恒在主题演讲中指出，面向预训练、推理Prefill与Decode等各类业务负载，AI芯片的算力、内存带宽、内存容量、互联IO带宽这四大核心指标，在不同应用场景下优先级有所不同。其中，互联能力直接决定了超节点的能力。凭借昇腾950芯片优异的互联能力，可构建出更高带宽、更低延时且覆盖范围更大的超节点，系统综合性能等于超节点规模与单芯片性能规格的乘积。
Agent时代对MoE模型推理的时延提出了极高要求，需压缩至10毫秒、5毫秒甚至1毫秒级别。而EP的Dispatch - combine通信是制约时延的核心瓶颈。廖恒认为，EP通信应在Scale Up域里完成，因为EP是All - to - All这种多对多的极其细粒度的通信，单数据包大小仅7KB至14KB，数据包交互频次随专家数量呈平方级增长，传统网络架构难以承载，无法实现低时延传输。对于通信方式的选择，廖恒表示取决于通信的颗粒度，通信量小则Load&Store内存语义优势大，通信颗粒较大则建议使用DMA，同时多个网络流量应尽量避免路径重叠。
Agentic AI也给KV Cache带来了巨大挑战。一方面，模型调用频次暴涨50至100倍；另一方面，序列长度从Chatbot典型的4k序列长度增长到接近1兆，提升了250倍。受此影响，KVCache命中率突破95%，这虽显著降低了Prefill成本，但也导致KVCache成本等比例提升。为此，华为创新设计搭载UB端口的SSU单元，直出接口接入UB网络。该架构精简了存储系统、文件系统以及从文件系统名字中间转换到SSD的逻辑扇区的转换过程，消除了原路径诸多障碍，使NPU直接命中SSU的KVCache，SSU通过UB网络把数据传送到NPU的片上内存，带宽至少提升一个数量级。
廖恒强调，昇腾一直秉持从“芯片架构 - 系统架构 - 集群架构 - 软件架构”的深度协同理念，持续迭代硬件能力、优化CANN等基础软件，平衡生态兼容性与系统运行效率，为业界构筑坚实的算力底座。
华为昇腾计算产品部部长周斌在会上发表了《围绕易用性持续提升，打造从好用到易用的昇腾算力底座》主题演讲。他从开发者视角全面介绍了昇腾软件易用性建设的最新成果，围绕CANN全面开源开放、兼容主流开源生态、Mind系列软件升级并开源贡献三大方向，持续降低开发门槛、提升开发效率，为AI开发者提供全流程高效开发体验。
CANN作为昇腾软件底座与生态核心，已实现全面开源开放，为开发者提供完整、高效、开放的算子开发体系。目前，它已完成分层解耦与开源，开放运行时、算子编译等全层级接口，算子与通信库支持独立升级，已开源50余个源码仓。在算子编程层面，昇腾面向不同开发者需求提供全栈支持。对于追求极致性能的工程师，提供Ascend C、CATLASS模板库，支持对计算、访存、流水等关键环节细粒度控制，充分释放芯片性能；对于注重快速创新的AI算法工程师，支持TileLang、Triton等主流Tile编程生态，并推出PyPTO，以Tensor抽象简化算法创新流程。为降低开发门槛，昇腾全面拥抱Python生态，推出PyAsc、Python版CATLASS模板库及PyPTO，让开发者以Python友好方式实现底层并行与高性能算子开发。
昇腾还打造了CANNBot算子智能体，将微架构优化经验融入skill技能库，支持Ascend C、CATLASS、Triton、TileLang、PyPTO等多种编程范式，覆盖算子开发全流程。基于CANNBot，单个Vector算子生成仅需3小时，从生成到部署全流程1天内即可完成，相比传统人工开发效率提升5倍以上。为进一步赋能业界Agent与大模型适配昇腾算子，昇腾还量身打造了专属算子数据集与评测集。算子数据集覆盖Vector、Cube、CV融合算子数据，通过高质量样本与专业思维链帮助大模型理解算子写法；算子评测集提供分级评测体系，覆盖22类典型算子、内置4000 +评测点，多维度评估算子生成的功能、精度与性能。
在兼容主流开源技术生态方面，昇腾以全面兼容主流开源生态为易用性改进核心方向，让开发者无需改变使用习惯即可高效调用昇腾硬件能力。算子编程层面，昇腾实现Triton和TileLang接口100%兼容，性能可达Ascend C的0.6 - 0.9倍，开发周期缩短至一周，已支持超600个Triton算子和300个TileLang算子，覆盖主流模型关键算子样例。北京大学计算机学院副研究员杨智提到，TileLang作为tile级编程框架，在DeepSeek V4的算子实践中表现出高开发效率与高性能，使能昇腾全面支持DeepSeek V4推理，同时也证明了TileLang优秀的跨平台能力，Developer模式下不同平台的算子仅有少量代码存在区别。在未来，TileLang for Ascend还有广阔的发展空间，比如昇腾950的编程插件、torch.compile与Graph优化、超节点统一编程等。
在AI框架上，昇腾全面支持PyTorch生态，实现2300多个API与社区对齐；图模式加速实现40 +模型入图能力对齐，分布式加速实现20 +主流大模型FSDP2开箱即用。训练加速方面，昇腾与8 +强化学习社区建立合作，累计合入超万行代码。verl社区Maintainer侯正罡介绍，verl社区与昇腾深度合作，基于昇腾软硬件实现fully Async，并在基础架构上开展联合创新和回馈社区，使得强化学习训练效率提升2倍以上。
在推理领域，昇腾全面适配LLM、多模态等核心场景，作为vLLM Project唯一自主创新硬件厂商、SGLang主仓唯一自主创新非GPU硬件厂商，原生合入主干代码并贡献关键特性，长序列场景首Token时延降低30%，xLLM框架也已原生支持昇腾。开源大模型推理引擎xLLM负责人刘童璇分享道，xLLM推理引擎如同操作系统般连接底层芯片与上层大模型应用，原生支持文本、图像、视频等全模态模型的推理加速，实现算力向模型智能高效转化。其架构深度适配昇腾超节点技术优势，推理性能出众；同时开源大模型服务核心组件，构筑从推理引擎到上层服务的完整技术栈。未来xLLM将紧跟技术趋势持续迭代架构，深度适配昇腾950超节点产品，立足Al for System理念，从技术跟随迈向标准引领，打造面向未来的智能超级大脑。
在Mind系列软件全面升级方面，MindSpore面向超节点创新，组件化解耦，提升昇腾大模型图模式、分布式竞争力；MindSpeed通过架构革新，解耦插件，灵活配合开源社区使用，快速使能昇腾算力；MindIE系列软件栈全新升级，与生态充分融合，助力推理更快、更稳、更简单；MindStudio开源开放并搭载智能助手，全流程提升了开发调试效率。
华为昇腾生态发展部部长张良在《汇聚开发生态，共建技术未来》的演讲中，详细介绍了全面升级后的昇腾开发者使能计划，包括社区体验、开发工具、激励权益三大方向。面向社区，昇腾优化环境准备、部署、资料检索等流程，实现一键自动部署，平均2分钟即可跑通首个Demo。社区上线了1000 +昇腾卡，为每一位开发者提供初始100卡时的免费算力，基于一站式开发平台即取即用；算子开发易用性提升，算子工程升级、开源昇腾skills仓库，助力开发者高效开发、调试；加强开源社区CI/CD建设及Committer专家投入，提速开源贡献的验证及合入。面向开发工具，将数千名昇腾专家经验沉淀成skills，搭建Agent工作流，提供全新Agentic开发体验，开发者通过需求描述即可完成各类模型开发操作，大幅压缩开发周期，让新手也能轻松搞定复杂任务，加速创新想法落地。伴随基础软件全面开源，昇腾转向社区化运作，明确开发者成长与创新路径。设立首批创新激励基金，扶持算子、加速库等领域创新探索；投放10000卡算力资源，支撑开源社区研发运维与实操体验，充分保障开发者算力需求。
会上，华为ICT战略与业务发展部总裁彭红华、华为公司Fellow、半导体首席科学家廖恒、华为昇腾计算业务总裁张迪煊、华为北京总经理张东亚为杰出个人及团队分别颁发了“昇腾开源贡献杰出个人奖”及“昇腾开源合作杰出团队奖”，以表彰近一年来昇腾开发者在昇腾技术创新、技术生态发展中的突出表现。11名个人杰出贡献者获得“昇腾开源贡献杰出个人奖”荣誉，14个开源项目团队分别获得开源项目先锋团队奖、开源社区共建团队奖及AI4S生态贡献团队奖。
