AI百科网 AI教程
规则与法

五角大楼内部调查:打错伊朗小学,AI 是原因之一

五角大楼内部调查显示,2 月 28 日米纳布一所学校遭袭,情报过时、平民保护人手被削、过度依赖 AI 目标系统三条原因叠加,人的判断空间被压到很小。

本文目录 · 6 节

一枚导弹飞出去之前,目标清单上通常只有坐标、编号和一句「已核验」。问题是,那句「已核验」是谁写的,写的时候看了什么。

一、发生了什么

2 月 28 日,美国与以色列对伊朗发起军事行动的第一天,伊朗南部米纳布市一所女子小学所在区域遭导弹击中。据布隆伯格 9 月 19 日引述参与五角大楼内部调查的官员报道,死亡儿童约 120 人;伊朗方面公布的死亡人数更高,超过 160 人。

调查结论不是「某个环节出了一个大错」,而是一串本可避免的小错叠在一起。这处设施多年前被编入军事目标库,但商业卫星影像在 2017 至 2018 年就已显示院墙分离、有彩色墙面和足球场,且学校一直公开运营。2019 年曾有分析人员记录下这些变化,但记录存在一个与主要军事情报数据库不相连的系统里,没有传到制定打击方案的人手上。

人和工具这一环同时失守。负责评估平民环境、寻找低风险替代方案的平民伤害缓解团队,在袭击前没有任何人看过米纳布这处目标;与此同时,美军中央司令部部分人员高度依赖 Palantir 的 Maven 智能系统。据知情人士说,过去准备一份目标清单、判断目标是否符合作战目的要花几个小时,对伊朗动武前被压缩到几分钟。

节奏也在推着人往前走。行动命令下达后的最初 24 小时,超过 1000 个目标遭打击。Palantir 回应称,公司「不对基础数据负责,也不负责识别情报缺陷」,并表示没有证据显示其软件有问题;事后它为 Maven 增加了重新审查基础情报、标记矛盾信息的功能。

五角大楼说调查仍在进行,暂无可公布内容,至今未公开承认对这次袭击负责。9 月 17 日,联合国支持的实况调查团认为,有合理理由相信美方在 2 月的两次空袭中构成战争罪。

二、跟你有什么关系

做业务系统的人。 你的系统里大概也有一个「已核验」字段。它由谁填、依据什么填、数据多久没更新——这三个问题,和米纳布那处目标面临的完全同构。

用 AI 做初筛的人。 简历筛选、风控名单、内容审核,都是「AI 出候选、人做决定」。人的那一步如果只剩点确认,决定权其实已经转移了。

三、怎么判断

读到这儿,可以顺路看 模型加了水印之后,agent 开始调错工具 一项针对七个开源模型的测试发现,加水印会改变工具调用与拒绝行为,平均每十五个判断就有一个翻转。文章解释机制,并给出上线前该重跑的三项评测。
  1. 找「第二双眼睛」在哪。 这次的关键细节不是 AI 出错,而是袭击前没有任何平民伤害缓解团队的成员看过这处目标。任何高风险流程,都要能指出一个不依赖同一个数据源、同一个工具的复核岗位。
  2. 给数据打时间戳。 目标库里的记录写着「军事设施」,但这句话的有效期可能只有几个月。过了一定时间就强制重新核验,比相信「当初是对的」可靠。
  3. AI 只用来做减法。 让模型标记「这条情报可能过时」「这个目标有疑点」,比让它确认「这个目标可以打」安全得多。前者出错只是多一次人工复核,后者出错没有回头路。
  4. 把提速当成风险信号。 一份清单从几小时压到几分钟,省下的是时间,挪走的是判断。提速必须对应核验步骤的自动化,而不是核验步骤的取消。

四、三个别信的说法

「AI 认错了目标。」 公开信息里没有这个结论。调查说的是人过度依赖系统、期待它能自动标出过时信息,而系统并不承担这个职责。责任在流程设计,不在某一次推理。

「五角大楼已经认账。」 没有。五角大楼的公开表态是调查仍在进行;报道里说的是「袭击数小时后部分人员已知美方应负责」,这两句差别很大。

「换一个更好的模型就能避免。」 更好的模型也读不到那个存在孤立系统里的 2019 年记录。这类事故的第一因通常是数据没连上人,不是模型不够强。

五、一句话结论

把目标清单从几小时压到几分钟,本身不是进步也不是退步;真正的分水岭是有没有人被允许在这几分钟里说「等一下」。

信息来源

功能与价格以官方公告为准。本文写于 2026 年 10 月 19 日。

关于这篇

本文为编辑整理的行业动态,未附官方原文链接。涉及价格、参数、发布时间的,请以厂商官方页面为准;发现错误可来信指出,会在「本次更新」里注明。

下一站 · 场景实战 Lovart 2.0 实测:设计 AI 开始接长任务 把一次双 11 规模的设计委托跑完,看清新版的记忆、巡检和定时任务各自解决什么,以及积分上限这类必须提前设的闸门,和三个容易踩空的地方。
下一篇,直接发你邮箱

每周一封,只发新教程和可复制模板。不发广告,随时退订。

复制规范引用格式,便于转载注明出处
这篇有用吗?