落日余晖

英伟达高管称Groq机架已全面量产 AI推理“低延迟”大战升温_我的网站

一 |     　　英伟达高管最新宣布，Groq 3 LPX机架已进入全面量产阶段，这标志着该公司史上最大规模收购案所获得的技术正式实现商业化。

二 | 　　当地时间周一（8月24日），英伟达高级总监Dion Harris表示，Groq机架将与Vera中央处理器和Rubin图形处理器一同部署在新型云服务商Nebius的数据中心，并将于今年晚些时候上线。    漫威演员海莉·阿特维尔近日在伦敦“For the Love of Fantasy & Sci-Fi”漫展上公开表示，她在漫威电影中饰演的卡特队长/佩吉·卡特被迅速杀死，是对这一角色的“完完全全的辜负”。　　英伟达加速生产Groq芯片并向客户提供产品，凸显出低延迟推理的重要性日益提升。

三 | 低延迟推理能够让AI智能体更快响应，避免用户长时间等待，在编程等应用中尤其重要。

四 | 　　Harris说道，云服务商可以针对这类token（词元）收取更高费用，“对于那些提供token服务的企业而言，这让他们能够为那些对延迟极其敏感的用户和客户提供高级服务套餐。她透露自己曾在片场尝试提出替代方案，但建议被剧组驳回。”　　去年12月，英伟达与Groq达成200亿美元交易，获得了Groq的芯片技术授权，多位核心员工也加入了英伟达，创始人Jonathan Ross更是担任了英伟达首席软件架构师。

五 |     在漫威电影的宇宙中，阿特维尔饰演的另一个宇宙版本佩吉·卡特以“卡特队长”身份登场，手持带有英国国旗图案的盾牌，与光照会其他成员一同迎战伊丽莎白·奥尔森饰演的绯红女巫旺达。　　今年3月，英伟达发布了为Vera Rubin平台研发的推理加速器Groq 3 LPX。Groq架构在芯片裸片上集成了500兆字节的高速静态随机存储器（SRAM），以减少与内存相关的瓶颈。

六 | 　　据了解，Groq芯片由三星制造，而英伟达的GPU则由台积电生产。然而，这支英雄团队在短短几分钟内便被旺达全部消灭，卡特队长更是被自己的盾牌反弹击中后疑似被腰斩。

七 |     阿特维尔在漫展上坦言：“我很喜欢让她穿上战衣、拿起盾牌的创意。但如果要我完全诚实地说，我对他们在那个场景中如何安排她、如何对待她感到非常失望。戏份太短了，她就被像飞盘一样弄死了。每一个LPX机架可整合256颗Groq 3，英伟达援引Artificial Analysis的基准测试称，整合后的机架每秒可处理3400个token。”她特别提到，片中卡特队长引用了史蒂夫·罗杰斯的经典台词“I could do this all day”（我能打一整天），但随即被旺达轻松击杀，这一处理让她尤其不满：“他们明显是在说‘不，你不行’，结果就是她看起来很‘逊’。

八 | 　　当下， 这一领域竞争激烈。”     阿特维尔表示，她试图在现场为角色争取更多表现空间：“我尝试过说‘我能加点什么吗？我能提点建议吗？’他们嘴上说‘当然可以’，但实际并不采纳。”她将这一处理方式形容为“对角色完完全全的辜负”。尽管对这一处理的结局不满，但阿特维尔已确认将回归漫威电影宇宙，在2026年12月18日上映的《复仇者联盟：末日》中再次出演佩吉·卡特。AMD今年早些时候宣布，将把其机架级系统与Cerebras的芯片进行整合。

九 | Cerebras近期刚刚上市，业务重点同样是低延迟推理。　　近期，OpenAI推出的“Ultrafast”模式承诺每秒可处理750个token，由Cerebras提供支持。

十 | 　　需要指出的是，低延迟芯片并不能取代作为AI芯片主力的GPU。至于角色将以何种方式回归，目前尚未揭晓。GPU既能够执行训练，也能够进行推理，同时具备足够的灵活性，可以适应新技术和新模型。　　Groq这类低延迟芯片则主要专注于模型服务中的一个环节，即“解码”（decode）阶段。

十一 | Harris也提到：“这并不是要取代GPU，而是要针对工作负载的不同环节，使用价格合适、处理能力合适的处理器。”　　英伟达目前正在加快Vera Rubin系统的出货速度。

十二 | 黄仁勋先前曾预计，到2027年，当前一代Blackwell芯片和新一代Vera Rubin系统的累计销售额将达到1万亿美元。　　黄仁勋当时表示，他计划将面向编程应用的数据中心空间中约四分之一分配给Groq芯片。“我的数据中心其余部分将100%采用Vera Rubin。”（文章来源：财联社）。

十三 |

Current article:http://109mru.liangkuataosanxuanmiancen.sbs/news/20260826_578.html

Published on:18:13:39