Uber 的 AI 账本:先修路,再跑 agent
Uber 一位杰出工程师拆开公司内部 AI 设施:统一模型网关、可切换的编码工具、按人计的成本分级,以及被 agent 压垮的 CI。
团队全员用上 agent 之后,最先撑不住的不是模型,是持续集成系统。
一、发生了什么
《The Pragmatic Engineer》近期一期播客请到 Uber 杰出工程师 Uday Kiran Medisetty,他目前负责公司大部分 agent 相关工作。访谈的主题是 Uber 内部的开发者设施,以及这套设施怎么被改造成能跑 agent 的样子。
几个事实值得记下来。
第一,2023 年平台团队定了一条原则:所有 AI 相关的东西不能绑死在某一家模型或某一套工具上。于是有了 Model Gateway——一个统一入口,后面接着 Anthropic、OpenAI、其他厂商,以及 Uber 自己跑的开源模型。安全团队在它上面挂了一层 AI Guard,检查每一个请求和响应,顺便测延迟、标记过慢的模型。成本按人统计,审计日志和会话追踪也从这里出。
第二,编码工具可以换,但配置不丢。Uber 目前支持 Claude Code、Codex、OpenCode 三套工具,外面套了一层 AIFX,工程师换工具时,设置、技能、插件跟着走。
第三,成本是分层管的。每个工程师有一个额度档,超了要主管签字才能加。另有一个叫 CostCheck 的插件,跨会话给出省钱建议。访谈中提到,最近几个月 Uber 的 token 成本下降了约一半。
第四,CI 出过事。今年早些时候,CI 任务量在 12 个月内翻了一倍多,公司内部为此拉响了「红色警报」。应对办法不是加机器,而是把 lint、构建、模板检查这类简单任务塞回 agent 的本地循环,让它在提交前先自己跑一遍。
第五,代码评审成了新瓶颈。所有 PR 仍然要人审,但审之前,AI 评审已经跑过,功能的截图或录屏已经附上,每个改动还带一个风险分,帮评审者判断该花多少注意力。同时,公司不再只看 PR 数量,而是给每个 PR 打标签:功能、修 bug、维护、测试、文档。他们观察到功能类占比在升,维护类在降。
还有一个背景:2015 年他入职时,Uber 只有两个服务;2019 年变成几千个;到 2026 年,服务数量和 2019 年差不多,而业务规模是那时的十倍。
二、跟你有什么关系
管工程效率的。 这套东西的顺序值得抄:先有统一入口,再有成本可见,最后才谈优化。反过来做,优化无从下手。
自己搭 agent 平台的。 换工具不丢配置,看起来是小功能,实际决定了团队敢不敢试新工具。锁死在一套工具上,半年后就会落后。
算 AI 预算的。 Uber 的做法是「额度 + 审批 + 建议」三层,而不是一刀切砍预算。对正当工作不设上限,对无意识消耗做提醒。
三、怎么判断
读到这儿,可以顺路看 Modal 卖的不是 GPU,是按秒的沙箱 Modal 年化收入突破 10 亿美元,完成 7.5 亿美元 D 轮。本文拆开收费方式:不建机房,从 20 多家云采购容量,按用量计费。- 先看有没有统一入口。 如果每个团队各自接模型,成本、审计、限流都做不了。Uber 的所有模型请求都走一个网关,这是后面一切的前提。
- 看成本能不能落到人。 按人统计才有行为改变。按部门统计只能看到总数,没人会因此少发一次请求。
- 看 agent 的活有没有前移。 把简单检查放进 agent 的本地循环,等于让它在提交前自己返工。CI 的压力会明显下降。
- 看评审环节给了什么辅助。 只有「AI 评审」不够,还要有截图、录屏和风险分。评审者需要的是判断依据,不是另一段文字。
- 看指标换了没有。 PR 数量在 agent 时代会失真,因为生成一百个 PR 太容易。按类型打标签、看功能类占比,比看总数有意义。
四、三个别信的说法
「Uber 的 AI 能力是一年做出来的。」 访谈里说得很清楚:2025 年做的 Minion,跑在 2017 年就有的 DevPods 上;MCP 网关能快速搭起来,是因为早就有服务注册表;测试路由靠的是更早开源的分布式追踪。agent 只是住进了十年前盖好的房子。
「token 成本降一半,说明模型便宜了。」 成本下降可能来自降价,也可能来自用量结构变化、缓存、模型路由。访谈给的是结果数字,没有拆解原因。你要复制,得先知道省的是哪一段。
「agent 提交的代码,人只是盖章。」 Uber 的做法是反过来的:所有 PR 仍然人审,而且因为 agent 产出变多,评审压力更大。他们做的是让评审更聚焦,不是取消评审。
五、一句话结论
跑 agent 的钱,大头不在 token,在它踩坏的那些系统——谁的基础设施本来就能被自动化,谁就只需要付模型的账。
信息来源
- Uber's AI infra, from the inside,The Pragmatic Engineer 播客对谈
功能与价格以官方公告为准。本文写于 2026 年 10 月 19 日。
本文为编辑整理的行业动态,未附官方原文链接。涉及价格、参数、发布时间的,请以厂商官方页面为准;发现错误可来信指出,会在「本次更新」里注明。
每周一封,只发新教程和可复制模板。不发广告,随时退订。