AI百科网 AI教程
AI百科

治幻觉的思路,可以借棋盘一用

前 DeepMind 研究员 Thore Graepel 创业做可验证推理:把知识放在外部账本上、每步结论过独立核查。读完能理解这套框架的取舍,以及它为什么还停留在纸面。

本文目录 · 6 节

AlphaGo 当年那步让解说员目瞪口呆的棋,靠的不是网络觉得它好看,而是搜索算出来它赢面最大。一位老 DeepMind 人认为,语言模型缺的正是这后半截。

一、发生了什么

据 The Decoder 10 月 27 日报道,曾参与 AlphaGo、AlphaZero 和 MuZero 的研究员 Thore Graepel 创办了公司 Metis Reasoning,并在英伟达 GTC 柏林站讲了这套思路。他的判断是:今天的大模型只相当于 AlphaGo 里出招的那个网络,缺了系统搜索那一半——当年正是搜索把一个人类棋手万分之一概率会下的着法算成了制胜一选。方案是给推理装一块「棋盘」——一份显式的知识账本,记下已知什么、把握多大、哪些问题还开着;另设一个独立模块,每条新结论都要对上计算、形式证明或实证才算数,前提一旦被推翻,依赖它的结论全部重估。两个网络负责提议和评估动作,但都无权绕过核查。公司声称这样能少编造、每句解释都带出处、知识改删不用重训模型,还因为推理被拆成小步而适合跑进边缘设备和机器人。据彭博报道,公司正在融一轮数千万美元级别的钱,更高估值的后续轮也在路上。

二、跟你有什么关系

把 agent 放进医疗、金融、芯片设计的人:这套框架瞄准的正是你们的痛点——错误没法溯源、错误知识没法删除。他们的解释是:代码错了能测试能回滚,所以 AI 先在软件工程里跑通了;这三个领域的错误藏得深,可验证性必须从地基做起。做机器人的:因为推理被拆成小步,方案号称适合跑在边缘设备上,值得关注。做 RAG 和知识图谱的:方向并不新,微软的图谱检索、谷歌配符号引擎做几何题都是近亲,区别在「假设变了自动重算」这一层。

三、怎么判断

读到这儿,可以顺路看 怎么盯住比你强的模型?给它装一个倒带键 读完能理解弱审核者如何核验强 AI 的计算结果:新提出的可倒带交互证明允许验证器把模型回退到任意状态重来,效率高、不依赖密码学,关心 AI 安全机制的人值得一看。
  1. 先承认它还是纸面工程:白皮书没有可用系统、没有跑分、没有和现有推理模型的对比,别当成已落地的产品看。
  2. 对照自己业务问一句:你的领域里「核查一步」的成本有多高?围棋每步可以穷算,现实里取证很贵,这决定方案成色。
  3. 警惕历史回声:符号 AI 当年就是败在知识全靠人录入,外部账本能不能在乱糟糟的真实领域里长出来,是最大的开放问题。

四、三个别信的说法

「模型再大就能自愈幻觉。」 这个团队的立场是编造来自训练目标本身——模型学的是像真话而不是真话,堆算力不动架构解决不了。

「有账本就万事大吉。」 账本只对能被核查的知识有效,现实里大量问题证据不全甚至无解,系统得学会体面地说不知道。

「这套想法已经能买了。」 目前只有研究纲领和融资传闻,离可部署的系统还有很远。

「老将出走只是个案。」 这位只是最新一个:AlphaGo 系的核心成员里,做检索增强的、做自我改进系统的接连单干,明星研究员成建制离开大实验室,本身就是一个信号。

五、一句话结论

让每一步都过独立核查,幻觉才从「毛病」变成「可拦截的错误」。

信息来源

功能与价格以官方公告为准。本文写于 2026 年 10 月 28 日。

下一站 · 具身智能 机器人学拧螺丝,为什么要拆成两步教 读完能理解机器人自主拧螺丝为何难:接触密集、发力精细、环境多变。新研究把任务拆成两段三模块,在真机上做到对齐成功率接近熟练工人,做具身操作的人可参考其分步思路。
下一篇,直接发你邮箱

每周一封,只发新教程和可复制模板。不发广告,随时退订。

复制规范引用格式,便于转载注明出处
这篇有用吗?