AI百科网 AI教程
产品动态

PUBG 的公司开源了一个 288 亿参数模型

288 亿总参数、每个 token 只激活 43 亿,26 万上下文,Apache 2.0。这篇给出可核对的跑分、量化后跑单张 5090 的条件,以及它明显落后的任务。

本文目录 · 6 节

一家游戏公司从零训了一个大模型,还开源了。参数不算最大,但把「本地能跑」做到了单张消费级显卡上。

一、发生了什么

2026 年 10 月 21 日,韩国游戏公司 KRAFTON(《绝地求生》的开发商)在 Hugging Face 放出 Raon-1 mini 预览版。这是从零训练的模型,权重按 Apache 2.0 开放,需在模型页申请,自动通过。

规格:总参数约 288 亿,混合专家结构,共 128 个专家,每 token 激活 6 个加 1 个共享专家,实际激活约 43 亿。原生上下文 262,144 token。权重有 MXFP8 与 NVFP4 两种格式,NVFP4 版可在 32GB 显存的单张 RTX 5090 上跑;另有 GGUF 与 MLX 版,支持 llama.cpp 和苹果芯片。

架构上有中国团队的影子。据 BlockBeats 报道,25 层里 18 层用了改进自 Kimi Delta Attention 的线性注意力,其余 7 层是完整注意力;还把 DeepSeek 的超连接机制简化以降低训练开销。

训练语料覆盖韩、英、日、中、西、法、泰七种语言,重点优化韩语对话、编程和 Agent 任务,通过兼容 OpenAI 的接口可接 Hermes Agent、Pi、OpenCode。

跑分全部是官方自测,对比 Qwen3.6-35B-A3B 与 Gemma 4 26B-A4B。IFBench 指令遵循 84.2,对手 66.6 和 80.9;SWE-Verified 代码修复 70.8%,超过 63.2%,接近 Meta Muse Glimmer 的 72.0%。落后的地方同样明显:Terminal-Bench Lite 47.0,对手 63.3 和 52.0;MMLU Pro 76.5,对手 85.9 和 82.9。韩语对话 92.9 分来自一个未公开的内部测试。

公司还提供 DFlash2 推测解码模型,单张 B300 上输出吞吐最高提升 2.18 倍。这是预览版,KRAFTON 说规格与结果可能调整,技术报告待正式版。

二、跟你有什么关系

要本地部署的团队。 一张 5090 能跑 288 亿参数,数据可以不出内网;代价是 NVFP4 的精度损失要自己评估。

做韩语业务的团队。 这是最明确的强项,也是它敢和更大模型比的地方。

做 Agent 的开发者。 它在终端操作上明显落后,适合代码修改和检索,不适合当全自动执行体。

三、怎么用

读到这儿,可以顺路看 Mistral 放出 Le Chonk:代码能打,总分落后 Mistral 开源了万亿参数的 Large 4,绰号 Le Chonk。它在编程任务上追平中国开源模型,综合分却差一截。这篇拆开三张榜单,讲清强在哪、贵在哪、值不值得自部署。
  1. 去 Hugging Face 申请访问,选 NVFP4 版本,配 32GB 显存的卡。
  2. 用 llama.cpp 或 MLX 起服务,接口兼容 OpenAI,现有客户端不用改。
  3. 先测韩语和代码修复,再测终端操作,别用平均值判断。
  4. 挂 DFlash2 推测解码,只在吞吐瓶颈明显时开,先测输出质量有没有掉。
  5. 商用前确认许可范围:权重是 Apache 2.0,官方托管 API 与体验服务另有条款。

四、三个别信的说法

「288 亿参数就要 288 亿参数的显存」。 MoE 每 token 只激活 43 亿,显存吃在权重总量上,算力吃在激活量上。量化到 NVFP4 后单卡 5090 能跑,但上下文拉长后 KV 缓存会成为新瓶颈。

「跑分接近 Meta 就说明同级」。 SWE-Verified 70.8 对 72.0 只是一项任务。同一份官方自测里,MMLU Pro 差了 6.4 分,Terminal-Bench Lite 差了 23.7 分。

「从零训练等于完全自主」。 架构明确借用了 Kimi 的线性注意力和 DeepSeek 的超连接思路,这是工程选择,不是缺点,但别讲成完全原创。

五、一句话结论

这版最值得试的是「单卡本地 + 韩语 + 代码修复」这个组合,最不该信的是把它当通用 Agent 底座。

信息来源

功能与价格以官方公告为准。本文写于 2026 年 10 月 22 日。

关于这篇

本文为编辑整理的行业动态,未附官方原文链接。涉及价格、参数、发布时间的,请以厂商官方页面为准;发现错误可来信指出,会在「本次更新」里注明。

下一站 · 具身智能 27 岁清华助理教授开源首款自进化模型 成立五个月的超衍智能开源 35B 模型 Apex-35B,主打 AI 参与模型研发,截至 9 月累计融资近 4 亿元。文中拆解其基准成绩与用途,也提示 RSI 路线的验证难题。
下一篇,直接发你邮箱

每周一封,只发新教程和可复制模板。不发广告,随时退订。

复制规范引用格式,便于转载注明出处
这篇有用吗?