一个月里,AI 芯片战场没有停火。英伟达的训练卡仍是默认选项,但 AMD 在推理上逼近、Intel 守住中端、Groq 把"延迟"做成卖点。对工程师来说,"非 N 卡不可"的时代正在松动。

我们挨个看:先看仍是默认选项的英伟达,再看从侧面逼近的 AMD,最后是各守地盘的其他玩家。

英伟达:主力仍是 Blackwell,下一代路线图明朗

Blackwell Ultra 仍是 AI 训练基础设施的主力,平台已完全爬坡,此前困扰买家数月的供货等待明显缓解。

本月重点是下一代 Rubin 路线图进一步清晰;同时 NVIDIA 更新了 NIM 推理微服务,新增多个基础模型的预优化推理容器,降低从原型到生产的工程门槛。

默认不等于唯一。

AMD 正从推理这一侧悄悄逼近。

AMD:在推理上逼近

Instinct MI350 系列开始规模交付云厂商,采用新一代高带宽内存、带宽提升明显,并改善了多卡通信延迟。

其软件栈补齐了主要 PyTorch 算子覆盖缺口,标准 transformer 推理性能已逼近同档竞品的九成以上。

主流云厂商均已推出更便宜的 AMD 推理实例。

文章配图(来源:Pexels)图片来源:Pexels

除了两大 GPU 厂,还有一帮玩家不正面硬刚,而是各守一块地盘。

Intel 与创业芯片:各守一块地盘

Intel Gaudi 4 不与对手在尖端训练正面对抗,而是稳守中端企业推理与政府采购,以太网互连、更低购置成本与现有基础设施兼容是优势。

另一方面,Groq 本月大幅扩张其推理 API 容量,在多地新增数据中心,主打亚 100 毫秒延迟场景——实时语音、实时翻译、交互式智能体——的不可替代性。

对学员意味着什么

算力选型正从"唯 N 卡"走向"按负载选芯片":训练、低延迟推理、成本敏感推理各有最优解。

这正是认证中"AI 辅助数据工程"需要建立的硬件成本意识——不是背参数,而是懂得为不同任务挑对的底座。

出处:科技媒体 SkyCrumbs 8 月 AI 硬件综述(skycrumbs.com/blog),及各厂商官方资料。