华为云黄瑾:传统计算架构难支撑AI代际跃迁,超节点架构是创新
20 小时前

华为云副总裁黄瑾在AI峰会上表示,大模型训练和推理的算力需求大幅增长,传统计算架构已无法满足,超节点架构成为新的突破点。为此,华为云推出了CloudMatrix 384超节点,解决了通信效率、内存墙和可靠性等问题,提供高达300Pflops的算力,相比英伟达提升了67%。该超节点拥有六大技术优势,其中EMS弹性内存存储技术显著提升了资源利用率和性能,同时使首Token时延降低了最高80%。