英伟达发布Dynamo,号称“AI工厂的操作系统”
2025-03-19

3月19日,英伟达正式推出了名为Dynamo的“AI工厂的操作系统”。Dynamo实质上是一个分布式推理服务库,旨在解决用户需求token与生产不足之间的开源问题。英伟达CEO黄仁勋在发布会上展示了一张推理图表,其中X轴代表用户每秒的Token数,Y轴代表工厂每秒的Token数。他强调,在Dynamo和Grace Blackwell NVLink72超级芯片的协同作用下,Blackwell相比前代Hopper,性能提升了25倍。在推理模型中,Blackwell的性能更是Hopper的40倍。黄仁勋幽默地表示,得益于这些最新技术,搭建AI工厂的厂商将享受到“规模经济”的效益,即购买越多,节省越多。