把大模型塞进 PS5：越狱主机的极限实验
有人把 llama.cpp 跑在越狱的 PS5 上，用 11.4GB 共享内存当模型池，在局域网里当一个兼容 OpenAI 的服务。实测 9B 模型 55 tok/s，27B 掉到 20 tok/s。
11.4 GB。这是整台游戏机愿意让出来的内存，包括模型权重和上下文。有人把它当成一台模型服务器的全部家当。
一、发生了什么
GitHub 项目 PS5LM，作者 cobanov，做的是把 llama.cpp 搬到越狱的 PS5 上。它用 Vulkan 后端跑在主机那颗 RDNA 2 GPU 上，模型和上下文共用 11.4 GB 共享内存。共享的意思是 CPU 和 GPU 用同一块，没有独立显存。这 11.4 GB 是权重加 KV 缓存的总预算，多一点都不行。跑起来不需要电脑、不连云端、不要账号，控制台自己就是服务器。
门槛写在最前面：固件必须是 7.00 到 13.60，机器已越狱，并且加载 kstuff-lite、etaHEN、ShadowMountPlus、elfldr 这几个 payload。
它对外的接口是标准的：OpenAI 的 /v1/chat/completions、Anthropic 的 /v1/messages，端口 8081。作者称 Claude Code 可以直接连上来，客户端填任意模型名都由当前加载的那个模型应答。另外还有一个决策模型接口 /v1/systemone，输入一段状态和几个问题，一次前向直接返回带概率的类型化答案，不生成文本。
官方给的实测数字（PS5 Slim）：Qwen 3.5 0.8B 的 Q4_K_M 版本 0.5 GB，207 tok/s；Qwen 3.5 9B 的 Q4_K_M 版本 5.3 GB，55 tok/s；Qwen 3.8 27B 的 UD-Q2_K_XL 版本 9.2 GB，约 20 tok/s，64k 上下文。决策模型这边，600M 的 d1 Omni 占 1.1 GB，3 个问题 0.3 秒，一张 720p 图片加 7 个问题 2.9 秒。
界面是给电视做的：每个请求会像聊天一样滚过大屏，显示谁问的、问了什么、答案一个字一个字出来。Console 页把温度、功耗、GPU 和 CPU 负载画成两条曲线，分别是最近两分钟和最近一小时。它还自带一个「规划器」：读每个 GGUF 的元数据，算出在剩余内存里能塞下的最长上下文和最优缓存配置，按建议列表推荐的型号在机身上实测过。下载直接从 Hugging Face 走，可以落到内置存储、M.2 硬盘或 U 盘。带图像投影的模型（Gemma 4、MiniCPM-V、d1）还能在聊天里收图片。
二、跟你有什么关系
有越狱 PS5 的人。 这是目前最便宜的「家里摆一台模型服务器」的方案。但对模型尺寸要有清醒预期：能舒服跑的是 9B 这个量级。它的另一半价值是示范——标准接口能让一台完全不相干的设备混进现有工作流，客户端那边只改一个地址。
想买硬件跑本地模型的人。 这张表本身就是答案：11 GB 出头的池子，27B 只能靠接近 2-bit 的量化挤进去，速度掉到 20 tok/s。想舒服跑 30B 以上，还是得看统一内存更大的机器，别指望游戏机。
常用 Claude Code 这类工具的人。 它可以当离线备胎。断网、出差、云端抽风的时候，有个能应答的东西，哪怕答得不如云端。
三、怎么用
- 先对固件版本。不在 7.00 到 13.60 区间，后面的步骤都不用看。
- 把
PPSA99575目录通过 FTP 放进/data/homebrew，重启后主屏会出现 PS5LM。payload 没装齐，应用能开，但温度、功耗这些读数会是空的。 - 在 Models 的 Suggested 列表里下模型，或把
.gguf拷到/data/PS5LM/models、U 盘对应目录。它会读每个 GGUF，算出能塞进剩余内存的最长上下文和缓存配置。9 GB 出头的文件已经接近上限，先看清剩余空间再下。 - 浏览器打开
http://<主机地址>:8081发一句话，再去 Console 页看温度和功耗。第一次跑建议盯着这条曲线。 - 想接代码工具，照
docs/CLI.md配 base URL 就行。软件更新直接覆盖目录，设置和模型不会被删。
四、三个别信的说法
「PS5 能跑 70B。」 11.4 GB 是权重加上下文的总池子。27B 已经是勉强挤进去的水平，再往上不是慢，是加载不了。任何「大模型跑在游戏机上」的说法，都该先问一句量化到几位。
「这就是一台免费服务器。」 它是共享内存，系统和游戏也要占；越狱机器不能正常登录 PSN；散热和功耗是按游戏场景设计的，不是按 7×24 满载设计的。它连的是你家局域网，出了门就用不了。把它当玩具和备胎可以，当生产环境不行。
「tok/s 高就适合干活。」 0.8B 跑出 207 tok/s 很好看，但它在真实代码任务上基本不能用。速度和回答质量是两条独立的轴，小模型只解决了前一条。
五、一句话结论
这台机器的价值不在算力，而在于证明「够用的模型加现成的硬件」已经能拼出一个私有服务。
信息来源
- cobanov, "PS5LM"（llama.cpp on a jailbroken PS5）, GitHub, 2026 年 10 月：https://github.com/cobanov/PS5LM
功能与价格以官方公告为准。本文写于 2026 年 10 月 17 日。