纽约市议会现场：Grok 生成了议长本人的性化图像
纽约市议会在听证会上当场用议长的名字测试 Grok，几秒内得到一张性化图像。SpaceX 的 AI 政策负责人承认会调查，但没能解释过滤为何失效。
一场关于 AI 安全的听证会，最有力的一刻不是提问，是现场演示。
一、发生了什么
据 CNBC 10 月 16 日报道，纽约市议会技术委员会当天就 AI 安全举行听证，SpaceX 负责全球政府事务（AI 方向）的 Gabriela Castillo Madrid 通过视频出席。
议长 Julie Menin 说，就在当天早上，她和团队把自己的名字输入 Grok，几秒内就得到了一张以她为对象的性化图像。她反问：既然公司说有防护，这怎么可能发生。Castillo Madrid 回应说公司有「严格管控」，会让安全团队调查这一具体案例。
技术委员会主席 Carmen De La Rosa 的措辞更重，她说 Grok 让用户能轻易把真实女性的图像性化，这「令人作呕」。她还追问公司解雇了多少举报人，Castillo Madrid 说「不知情」。
这场听证会本请不来 SpaceX。10 月 5 日，OpenAI、Anthropic、Google、Meta 的高管出席同一调查时，SpaceX 缺席并回避了传票；直到议会威胁请法官强制执行，公司才在 10 月 13 日同意出席。
同场作证的 Devin Kim 是 xAI 早期员工，他说自己参与搭建了研究者训练和评估 Grok 的系统，从 2025 年 1 月开始提出安全担忧，被主管驳回，对方说「AI 安全没用，AI 反正会杀死我们所有人」。他现在的身份是非营利机构 Center for AI Safety 的总裁。按他的说法，他任职期间只有三名员工负责 AI 安全。
他还提到公司早期的内容标准：「有品位的裸露可以接受，而且是目标。」她没有直接回应这句话。听证会上另一个问题是用户把 X 光片上传给 Grok 求诊断，她强调 Grok「不是医生」，隐私方面由用户自己决定对话是否用于训练。
二、跟你有什么关系
用 Grok 的人。 这次争议的核心不是生成质量，是真实人物的图像能不能被随便做出来。你上传的照片、你的名字，都可能成为输入。
做产品安全的人。 「有过滤器」和「过滤器有效」是两件事。议长几秒内就绕过了声称存在的防护，说明测试用的是真实攻击方式，不是内部样例。
关注监管的人。 纽约市议会没有州或联邦的 AI 立法权，但它能发传票、能公开记录。这类听证会的作用是先建立事实档案，再推动上位法。
三、怎么判断一个平台的安全承诺
读到这儿，可以顺路看 黄仁勋：芯片公司必须和中国同行谈 AI 风险 黄仁勋在伦敦说，英伟达「绝对必须」与中国 AI 公司合作监控风险。他一边反对更多监管，一边主张扩大对话。这篇讲清芯片公司为什么比模型公司更急着谈。- 用自己名字测一次。 不用违法内容，只输入公开姓名，看会不会生成真实人物的性化或误导性图像。这是最低成本的验证。
- 找举报通道，不找公关邮箱。 看它有没有独立的信任与安全联系人、有没有处理时限、会不会回复。没有通道的承诺，等于没有承诺。
- 看它怎么处理已生成的图像。 删除请求的响应时间、是否阻止再次生成、是否通知受影响的人，这三点比发布会上的原则声明有用。
- 看它有没有外部审计。 自己测自己，结论只能参考。第三方能不能拿到日志和过滤规则，决定了说法能不能被核实。
四、三个别信的说法
「平台不允许生成真实人物的性化图像，所以不会发生。」 议长当场就做出了反例。规则写在条款里，执行写在模型和过滤器里，两者经常不一致。
「删掉就没事了。」 图像一旦被下载、转发，删除只能减少扩散，不能收回。对当事人来说，伤害在第一次生成和第一次传播时就完成了。
「听证会只是政治表演。」 这次有传票、有宣誓证词、有前员工公开记录。它未必立刻变成法律，但会成为后续立法和诉讼的证据材料。英国议员 Jess Asato 已经在英国起诉 xAI。
五、一句话结论
Grok 这次的问题不是「AI 会不会冒犯」，而是一家公司说它有防护、议会当场证明防护不成立；当承诺可以被几秒钟推翻，剩下的只能靠可核查的机制。
信息来源
功能与价格以官方公告为准。本文写于 2026 年 10 月 18 日。
本文为编辑整理的行业动态，未附官方原文链接。涉及价格、参数、发布时间的，请以厂商官方页面为准；发现错误可来信指出，会在「本次更新」里注明。
每周一封，只发新教程和可复制模板。不发广告，随时退订。