华为发布新一代AI算力基础设施

新华社9月20日消息，近日于上海举办的华为全联接大会上，华为发布了新一代AI算力基础设施昇腾960超节点。这款算力设施最多搭载的算力卡数量从上一代的1024卡升级到4096卡，并且首次采用了一项名为“NPO”（也称为近封装光学）的关键技术，可用于匹配十万亿模型训练和推理的需求。

如果说数据是AI的燃料，那么算力就是AI的引擎。近年来，算力集群从万卡向十万卡、乃至更大规模迈进，卡与卡之间的通信代价越来越高，业界探索使用超节点解决这一瓶颈。据介绍，华为超节点的核心思路，是通过灵衢高速互联协议将成百上千张算力卡融为一体，实现“像一台计算机一样协同工作”的效果。

据华为副董事长、轮值董事长汪涛介绍，“NPO”是昇腾960超节点的一项关键技术。传统的大规模算力系统内部主要依赖铜缆进行电互联，近封装光学技术可在算力卡边缘几厘米的距离实现电转光，突破铜缆传输距离与带宽的物理极限，降低互联功耗与延迟，并解决高密度算力系统下的布线与散热难题。

截至目前，昇腾系列超节点已规模商用1000多套，应用于互联网、运营商、金融、教育、医疗、交通、制造等行业。上一代的昇腾950超节点也已实现商用。