治理 AI 的六条准则，卡在哪一步

一个客服 agent 能不能自己批退款，批到多少钱必须叫人。这条线画在哪里，法务答不了，只有对结果签字的那个人能答。

一、发生了什么

10 月 5 日，IEEE Spectrum 刊出一篇署名文章，作者是 IEEE 高级会员、劳氏公司（Lowe's）企业 AI 转型负责人。他把自己在零售业做 AI 落地的经验压成六条准则。

第一条，先认出自己已经变成「人肉中间件」。他的说法是「管理员陷阱」：把数据从一个系统搬出来、改格式、再喂进另一个系统。这类转运动作 agent 已经做得很好，但判断哪个数字值得看、哪个风险是真的、哪个取舍划算，还不行。

第二条，用原则换掉规则。规则是按人的速度设计的：超额签字、双人评审。当系统一小时做几千次决策，规则就会撞墙——一条投诉同时踩中三条政策时，规则书里没有答案。原则写的是「达成结果，但别越线」，而且要排好优先级：先不伤害客户，再说真话，再保经济性，最后才是快。

第三条，把文化写进代码。分三层：宪法写永不越界的事，比如不陈述没有依据的事实；教义写公司怎么竞争、接受什么取舍；剧本写单个任务的打法。

第四条，装「信任恒温器」，不要装开关。每个决策带一个对照原则算出的置信分，过线自动走，不过线交人；人的答案回流进学习环，下次同类情形自己过线。

第五条，先修上下文，再谈治理。他给了一个五段环：连接、上下文、推理、行动、治理。多数公司把钱堆在中间的推理，两头最薄。

第六条，学会按例外管理。日常流程不碰，注意力只放在机器说自己没把握的那一小部分。

文章引了 MIT 媒体实验室 Project NANDA 在 2025 年的一份报告：企业生成式 AI 投入约 300 亿至 400 亿美元，其数据集中绝大多数组织尚未做出可衡量的损益影响，只有约 5% 的集成试点产生了实质价值。研究者把这个现象叫「生成式 AI 鸿沟」，作者把它写进了自己的书里。

要对结果签字的中层。 你的签字对象正在从「这个结果对不对」变成「这条规则和这个阈值合不合理」。后者更难，因为出事时没人会问你当时怎么想的。

做产品的。 六条里能直接写进需求文档的是第三、四、五条：三层文本、置信分、上下文图。前两条是管理动作，落到产品上就是配置项。

看行业的。 这套话术的核心不是安全，是决策权归属。谁定原则的排序，谁就在替公司决定怎么权衡。

「有了原则就不需要规则。」 原则管冲突，规则管红线。金额上限、禁止名单、必须留痕这类硬边界仍然要写成规则，而且要能被程序检查。原则给机器判断空间，规则给机器禁止清单，两者不能互相替代。

「人工全量复核就等于安全。」 恒温器的意思是按置信度分派，不是每一单都看。作者把话说得很直白：全量复核的成本会超过自动化省下来的钱，最后企业只能在「无人监管」和「白干」之间二选一。

「上下文是 IT 部门的事。」 上下文决定 agent 能不能同时看到合同条款和上次投诉。这活是业务知识的整理，IT 只能提供管道。让 IT 单独做，拿到的通常是一堆表，不是一张能用的图。

治理 AI 不是写一份原则，是给每一类决策装一个可调的阀门：什么自动过、什么叫人、叫来的人怎么把答案写回去。

功能与价格以官方公告为准。本文写于 2026 年 10 月 19 日。