英偉達今日正式發(fā)布了Dynamo,,號稱是“AI工廠的操作系統(tǒng)”,。Dynamo是一個分布式推理服務庫,主要解決用戶需求token與生產token之間的矛盾問題,,提供了一個開源解決方案,。
黃仁勛展示了一張關于推理的圖表,,其中X軸表示用戶每秒的Token數,Y軸表示工廠每秒的Token數,。在Dynamo,、Grace Blackwell NVLink72超級芯片的支持下,Blackwell相比Hopper可實現25倍的性能提升,,在推理模型中,,Blackwell的性能更是Hopper的40倍。
黃仁勛還幽默地提到,,有了這些最新技術,,搭建AI工廠的廠商會發(fā)現買得越多,省得越多,。
當地時間3月18日,英偉達年度GTC大會如期舉行,。英偉達CEO黃仁勛發(fā)表了主題演講,,外界普遍對此持樂觀態(tài)度,甚至有分析師認為這將是美國科技股扭轉弱勢的轉折點
2025-03-20 17:00:36華爾街不買賬英偉達GTC發(fā)布