用 ROCm 让模型写 GPU 代码

设想一位没写过 GPU kernel 的后端工程师，让 Claude Code 在自己的机器上装 ROCm、拉模型、用 vLLM 起服务。agent 去读文档、解依赖、报错重试。半小时后，服务起来了。

这件事真正值得看的不是「AI 会装环境」，而是它把底层硬件编程从「先学两年」变成「先跑起来再说」。

一、发生了什么

9 月 22 日，Stack Overflow 播客请来 AMD 软件副总裁 Anush Elangovan，主题是 ROCm 这套开源工具链。他在节目里的核心说法是：agentic AI 正在大幅降低底层硬件编程的门槛，软件与硬件的开发周期正在收敛。ROCm 的定位是让开发者在 AMD 加速卡上写程序，正面对应英伟达的 CUDA。

9 月 9 日的另一档播客 Chain of Thought 里，同一位高管给了更具体的流程。ROCm 10 当时刚发布。开发者可以指定 Claude Code 或 Codex 完成安装，再让 agent 用 vLLM 部署模型。调优环节分两步：Hyperloom 先做 profiling，找出 kernel 或算子融合的热点；GEAK 接手慢 kernel，在一个给定的数值容差内试各种改法。他说算力充足时，一轮跑过 14,000 个模型。

配套的动作是测试。AMD 把持续集成的覆盖范围扩了大约一个数量级，横跨 PyTorch、vLLM、SGLang 和几代硬件。他还提醒，agent 的请求模式和人不一样：人会停，agent 会连续读文件、搜索、调工具，容量规划可能要按过去的一百倍来算。

ROCm 里有一个叫 HIP 的组件，作用是把 CUDA 代码尽量改写成能在两种卡上编译的 C++。这个思路并不新，难的是改写之后的行为差异：同一个算子在两家的实现细节不同，报错信息不同，社区里能搜到的答案数量也不同。访谈里提到的「统一工具链」「降低门槛」，解决的是这一类摩擦，不是算力本身。

但两场访谈都没有给出 ROCm 与 CUDA 的同口径性能对比。这是本文最重要的一句限定。

二、跟你有什么关系

写 CUDA 的。 你的稀缺性不会因为「agent 能写 kernel」消失，但会从「会写」转向「会验收」：能不能判断一个更快的 kernel 在数值上是否还正确。

用 AMD 卡跑推理的。 真正省事的是环境搭建和调优搜索，不是「一句话生成生产级 kernel」。前者今天就能试，后者仍要人守。如果你的模型在 AMD 上跑得慢，先做一次 profiling，找出是哪个 kernel 拖后腿，比换框架更划算。

做采购的。 访谈里讲的是软件成熟度和 CI 覆盖，不是性价比。没有第三方跑分之前，别把「agent 原生」当成迁移理由。

三、怎么判断一次「agent 写 GPU 代码」是否可信

1. 先看有没有 profiling。 没有热点定位就直接改代码，等于闭眼换零件。让对方给出 profiling 结果和改动前后的同一段负载。
2. 先定数值容差，再谈速度。 这是 Hyperloom 那套流程里最值得抄的一条：固定一小组真实输入和参考输出，每次改完算最大绝对差，超差直接淘汰，合格的才按耗时排名。
3. 看目标是不是可检查的。 固定输入、参考输出、容差、要优化的指标、什么时候停。只给一句「快一点」，搜索会失去方向，最后拿回来的是一堆无法比较的结果。
4. 看改动有没有进上游 CI。 只在自家机器上快的 kernel，下一次框架升级就可能白干。AMD 把上游 PR 放到自家硬件上跑，目的就是提前发现只在英伟达上测不出的回归。
5. 把生成和验收分开。 让一个 agent 提方案，让另一个流程做容差校验和回归。自己给自己打分，分数没有意义。

四、三个别信的说法

「agent 已经能替代 GPU 工程师。」 访谈里能站住的部分是「降低入门门槛」和「把调优变成可并行的搜索」。搜出来的候选仍要过容差、过回归、过人。把 14,000 个模型的批量优化说成「模型会写 kernel」，是把流水线功劳算到了单点能力上。

「ROCm 和 CUDA 只差一个 HIP 翻译层。」 HIP 确实能让相当一部分 CUDA 代码改一改就编译，但迁移的坑在库的覆盖、算子行为、调试工具和社区答案。两场访谈都没给对比数据，谁给你一个「只差 5%」的数字，先问口径。

「跑分高就值得迁移。」 训练和推理、单卡和多卡、主流模型和冷门算子，结论完全不同。先拿自己最重的那条负载跑一遍，再谈换不换。

五、一句话结论

agent 把「上手 GPU 编程」变便宜了，但把「证明改对了」变得更贵；省下的时间要花在验收上，不然只是把 bug 提前。

信息来源

• Haters think AI agents can't write GPU code? This'll ROCm，Stack Overflow Podcast，2026 年 9 月 22 日
• Tuning GPU Performance with AI Agents：AMD's Anush Elangovan on ROCm 10，Chain of Thought 第 72 期，2026 年 9 月 9 日

功能与价格以官方公告为准。本文写于 2026 年 10 月 19 日。