说 AI 安全是邪教的人，和他反对的那群人

一场关于 AI 安全的辩论，最后靠"有没有人抽烟"上了标题。这本身就说明，这场架吵得不太像技术讨论。

一、发生了什么

据开源中国编译的报道，Palantir 首席技术官 Shyam Sankar 上了 CBS 的《Face the Nation》。主持人 Margaret Brennan 先给了一个民调：CBS 的调查里，50% 的美国人认为 AI 带来的问题会多于它解决的问题，45% 希望政府限制 AI 的研发和使用。

Sankar 没有顺着"该不该设护栏"回答，而是点名了一个他认为在背后推动 AI 安全叙事的群体——有效利他主义。他的说法是，这股力量本质上是"千年末日邪教碰上了弥赛亚情结"。他举的最有名的有效利他主义者，是已经入狱的加密投资人 Sam Bankman-Fried。

他还算了一笔账：美国大概只有约 2000 名 AI 研究者，其中绝大多数持这种世界观。当这些被视为内行的人告诉你，AI 有 10% 的概率终结人类，普通人很难不当回事。

最出圈的是关于吸烟的那段。他声称不少 AI 研究者开始抽烟，用来向同行展示信仰强度。Business Insider 在报道里补了一句：他没点名任何人，也没给证据；而吸烟至今仍是可预防疾病和死亡的主要诱因。

他真正的论点在后面：末日论者同时讲两套话——这技术要终结人类，又可能创造乌托邦。表面矛盾，其实共享一个前提，就是人没有能动性，未来由机器决定。他认为这遮蔽了现实：怎么用这项技术，人类有选择权。

二、跟你有什么关系

普通用户：这场争论决定不了你明天能不能用上某个功能，但它会影响监管节奏。一边在喊停，一边在喊别挡路，政策就在两者之间摆动。

做安全的人：Sankar 有一句话值得认真对待——行业有双重责任，一是向公众证明 AI 能带来经济繁荣和国家安全，二是真正承担工程设计的责任，不能在"设计安全产品是你的事"这个问题上含糊。

企业采购：如果你在评估供应商，别只看它有没有安全团队，要看它能不能说清"出了事谁负责、怎么止损"。口号两边都很多，可执行的流程很少。

三、怎么判断这类争论

1. 先分清批评的是观点还是人。 说"有效利他主义是一套有问题的世界观"，和说"信这套的人集体精神错乱"，是两种不同强度的指控。后者不需要论证，只需要气氛。

1. 看有没有可验证的证据。 关于 AI 存在性风险的 10% 概率，本身就是主观赋值；关于研究者抽烟的说法，也没有数据。两边都在用一个无法证伪的断言支撑立场，这时候更该看谁给了可检验的东西。

1. 把"该不该管"和"怎么管"分开。 前者是价值观问题，后者是工程问题。Sankar 批评的是前者的神学色彩，但他自己也承认行业要承担设计责任——那部分恰恰属于后者。

四、三个别信的说法

「AI 安全都是生意，喊得越响越赚钱。」 这话有一半道理：安全确实成了一门生意，也确有公司靠渲染风险融资。但把它当全部解释，就会顺手否掉所有真实存在的风险，比如模型被滥用、Agent 越权、数据泄露。这些不需要末日论也成立。

「他讲了个抽烟的段子，所以他的判断都不用听。」 轶事不能证伪论点。报道本身也提醒了这一点：Sankar 没点名、没给证据，这段该被质疑；但他关于"两套话共享同一个前提"的观察，是一个可以单独讨论的哲学批评，不该被段子连坐。

「50% 的美国人担心 AI，所以监管该收紧。」 同一份民调里还有 45% 支持限制研发。但"担心"和"支持限制"之间隔着具体方案。民意能说明情绪，不能说明该管哪一层、由谁来管。

五、一句话结论

这场吵架的真正分歧不是"AI 危不危险"，而是"人还算不算数"——相信人能选择的人，和相信结局已定的人，很难吵出结果。

信息来源

• 开源中国关于 Palantir CTO 电视访谈的报道，2026-10-17：https://www.oschina.net/news/503000

功能与价格以官方公告为准。本文写于 2026 年 10 月 17 日。