大模型这五年,翻篇靠的是换训练目标
一篇分析文章把大模型演进压缩成四次训练目标的更换:预测下个词、当助手、先想后答、干到完成为止。读完能用一条主线串起你听过的所有模型名词。
GPT、对话助手、推理模型、agent——新闻里它们像四次不同的革命。一位从业者的看法更简单:变来变去只换了一样东西,训练模型去干什么。
一、发生了什么
在 Deep Cogito 做后训练的工程师 Gupta 10 月发文梳理这条线(本文转述其框架)。第一幕,2018 到 2020 年,目标是预测下一个词:从一亿多参数的小模型在几千本书上练起,到千亿参数版本不再需要微调,模型学会了语言本身,但只会「接话」不会「回答」,你问烤面包它可能续写五个新问题。第二幕,2022 年,目标变成当有用助手:人类示范、人类排序、再用强化学习对齐偏好,结果十三亿参数的小助手在评分上赢了百倍大的裸模型,这条路造出了 ChatGPT。第三幕,目标换成先想后答:数学和代码的答案能自动判对错,给了强化学习免费的裁判,推理模型由此出现,还打开了答题时多花算力的新维度。第四幕至今,目标是动手干到完成:查资料、跑代码、改文件,交付物从一句话变成一件完成的事。作者引用的最新数据是:编程终端类基准的成功率一年间从两成涨到七成以上,可完成任务时长每四个月左右翻一番;但也有模型能答对博士级科学题、却读不明白一个模拟时钟指针,短板依旧参差。
二、跟你有什么关系
如果你在选型,这条主线提醒你先问供应商:你的模型在哪个目标上训练最重?擅长闲聊的底子和擅长干活的底子不是一回事。如果你在学习 AI,别再追每个新名词,看它属于哪一幕,判断它解决了什么旧痛点,名词会过时,这条主线不会。如果你做内容创作,注意长文写作至今是短板——它还没有一个像数学那样便宜又客观的裁判,短期内也未必会有。
三、怎么判断
读到这儿,可以顺路看 汤道生预告混元 Hy4:第一次能看图 腾讯在数字生态大会上预告混元 Hy4 正式版,首次加入视觉理解,还会推出主打性价比的 Flash 版。这篇只按预告口径写,讲清升级点、Flash 的定位和该等什么再动手。- 判断成熟度:终端任务成功率从两成涨到七成多,是真实可用的信号;但五成可靠性意味着演示,九成五才算同事,问清楚数字出自谁家评测、任务有多长、重试了几次。
- 判断瓶颈:作者认为下一步在记忆和评分标准——模型至今每个任务都从零开始,模糊任务的「好答案长什么样」还没有好办法写进数据,这恰是目前最难补的短板。
- 判断趋势:每一幕都没淘汰前一幕,今天的 agent 骨子里仍是预测下一个词的模型,旧的短板照样会漏出来。作者的原话值得记:进步的真正引擎,是设计出编码了正确目标的数据。
四、三个别信的说法
「参数规模决定一切。」 十三亿参数打过一千七百亿的案例说明,目标函数选对,小模型照样翻盘。规模是前提,不是答案。
「AI 已经会自己进步了。」 下一幕被作者寄望于「边干活边学习」,但今天的模型仍然每个任务清零重来,这条还没实现。
「新模型发布就是革命。」 每次跃迁背后是数据集和奖励的设计变了,多数发布只是同一幕里的常规迭代,学会区分能省下大量焦虑。
五、一句话结论
五年四幕剧,导演从来都是同一个问题:这次我们训练它干什么。
信息来源
- HackerNoon 的演进分析原文,2026 年 10 月 25 日
功能与价格以官方公告为准。本文写于 2026 年 10 月 26 日。
每周一封,只发新教程和可复制模板。不发广告,随时退订。