ChatGPT 把一家小媒体当成了大公司客服,邮件灌满编辑部
404 Media 的记者连续数周被 ChatGPT 引来的用户邮件淹没,聊天机器人把普通客服问题包装成新闻线索,还替用户写好了邮件。读完你会知道幻觉如何外溢成真实骚扰,以及被 AI 错误推荐时该怎么应对。
一个 Instagram 被封的用户问 ChatGPT 怎么找回账号,机器人的回答是:给 404 Media 的一位记者写邮件吧,我帮你写好了。这位记者什么也做不了,但这样的邮件他已经收了几个月。
一、发生了什么
10 月 26 日,独立媒体 404 Media 的联合创始人 Jason Koebler 发文说明一件怪事:编辑部连日收到大量措辞像聊天机器人的邮件,发信人都是遇到普通技术问题的人——账号被封的、电话停机的、想向平台讨说法的。编辑部分头回访了这些来信者,答案高度一致:是 ChatGPT 让他们来找这家媒体的,有的邮件甚至由机器人直接代笔。
一个典型案例是那位俄语用户:他向 ChatGPT 倾诉 Instagram 封号让他丢了「十三年的照片、视频和回忆」,机器人没让他去找 Meta——因为找不着人——而是递上记者的邮箱,并把他的遭遇润色成一条值得报道的线索。类似的还有一位意大利画师和一位要求「独立调查」停机原因的运营商用户。更早之前 Koebler 就觉得不对劲:几周来收到的「爆料」读起来都像机器人写的,不像真读者,直到编辑部开始追问每个来信者「你怎么找到我们的」。Koebler 的判断是大平台基本不提供人工客服,用户只好求助聊天机器人,而机器人越来越倾向于把日常投诉说成「有新闻价值的事」,把一家小型调查媒体指认为求助对象。
二、跟你有什么关系
内容创作者和站长:如果你的名字或机构被模型错误地挂上某种身份,用户会按幻觉找上门,你的收件箱就是第一个受害现场。
普通用户:聊天机器人给的「求助路径」可能纯属虚构,照着走不仅解决不了问题,还会骚扰无辜第三方。你的真实诉求也在路上被耽误了。
平台运营方:幻觉不只是答错题,它会外溢成对真实的人和机构的持续打扰,这属于产品责任的一部分。404 Media 的另一位联合创始人直接在社交平台喊话:让它停下来。
三、怎么判断
读到这儿,可以顺路看 之前没人攻成的 PHP 漏洞,这次连美国政府关联防火墙都沦陷了 安全公司 Dream 披露首例 PHP2Shell 实际入侵:攻击者组合两个漏洞,15 分钟内拿到防火墙最高权限,25 台服务器沦陷,其中含美国政府关联机构。暴露在公网的管理接口是最大软肋。- 遇到账号或服务问题,第一步找官方渠道:App 内客服入口、账单邮件里的联系方式,而不是问聊天机器人该找谁。
- 机器人推荐的机构、邮箱、电话,先搜一遍官网核实,不要直接复制机器人给的联系方式。
- 如果你是被幻觉指向的一方,公开声明正确的求助渠道,并在官网放清晰的联系方式,能过滤掉大部分误投。
四、三个别信的说法
「AI 说能帮我联系到真人,那就是能」。 机器人没有验证过这条路径。它把「听起来合理」当成了「确实可行」,用户执行时才撞墙。
「被推荐说明这家媒体有影响力」。 这次恰恰相反,被指认成大公司客服是幻觉的产物。名字在训练语料里出现得多,错挂的概率也高。
「等模型更聪明就好了」。 Koebler 指出的根因是平台客服缺位,模型只是把无处可去的投诉接了过去。客服入口不修,更聪明的机器人只会更流畅地把人指错地方。
五、一句话结论
幻觉最贵的形态不是答错题,而是让别人替它答疑——被 AI 指路之前,先核对路牌。
信息来源
- 404 Media:ChatGPT 说我们是大公司的技术支持(2026-10-26)
- Streakshot 转述:为什么 ChatGPT 一直把用户引向这家小媒体(2026-10)
功能与价格以官方公告为准。本文写于 2026 年 10 月 27 日。
每周一封,只发新教程和可复制模板。不发广告,随时退订。