不付 20 美元订阅,本地模型能接住哪些活
一位作者用 16GB 显卡跑 Qwen 3.8-27B,退掉了两个每月 20 美元的订阅。这篇把他的配置、速度和失败场景拆开,给出一张「留本地 / 上云」的分工表。
他退订的理由不是省钱,是限额。写代码写到一半,五小时额度用完,思路就断了。换成本地模型之后,没有额度,也没有月底的账单。
一、发生了什么
10 月 6 日,科技媒体 XDA 的一位作者发了一篇体验文,标题很直白:我不再为 ChatGPT、Claude、Gemini 付 20 美元,因为一个免费的本地模型够用了。
他用的不是最大的模型。Qwen 3.8-27B,Unsloth 的 UD-IQ4_XS 量化版,下载 13.3GB,装进一张 16GB 显存的 RTX 4070 Ti Super,开 16K 上下文还有余量,在本机起服务。实测速度约每秒 33.7 个词元。他让模型一次写完一个能跑的贪吃蛇游戏,成功了。
他原本同时订着 ChatGPT 和 Claude,两份各二十美元。前者处理邮件、做产品调研时的用户情绪分析,后者写 Python。两份加起来,一年接近五百美元。让他下决心的是这笔账,以及 Claude 限额之后那种「等五小时」的无力感:回来还得重读整段对话,之前想到的改法已经忘了。
被他替掉的主要是 ChatGPT 那部分活:改邮件语法、长邮件提要点、把啰嗦的句子压短、把论坛里的用户反馈做成情感分类。他拿一封塞了十几个数字的报价邮件做测试,模型把所有数字提出来,整理成表格。
Claude 是另一回事。他承认前沿模型写代码更强,问题在五小时限额:额度一断,迭代节奏就没了,回来还得重读整段对话。本地模型没有这条线,可以整夜跑,代价是显卡 285W 的功耗。另外,发出去的内容不出本机。
二、跟你有什么关系
每周只用几次的人:订阅大概率不划算。 你的活集中在改写、摘要、分类,27B 级别的量化模型够用,一次性硬件投入之后再无月费。
靠写代码吃饭的人:本地是补充,不是替代。 作者自己说 Claude 更强。真正值得抄的是「把不敏感的活挪到本地」:重复的小改、样板代码、跑一遍就知道对错的活留给它,云端额度留给长上下文和复杂重构。
在意数据的人:这是最实际的理由。 合同、病历、客户名单,不发出去就是最稳的合规。本地部署时,权重和对话记录都在自己盘上,断网也能跑。
三、一张可照做的分工表
读到这儿,可以顺路看 法官说爱那段 AI 视频,量刑因此被推翻 亚利桑那一起命案的量刑被上诉法院撤销,原因是法官当庭说「我爱那段 AI 视频」。视频里,死者用合成的声音表示宽恕。这篇讲清法庭为什么容不下这种「证据」。- 先算显存,再选模型。 4bit 量化下,27B 约需 14–16GB,14B 约需 8–10GB,7B 约需 5–6GB。留 2GB 给上下文,别把卡塞满。显存不够时,先降上下文再降参数量;16K 装不下长文档,用分块检索比硬撑更实际。
- 把任务分三堆。 改写、摘要、抽取、分类、翻译初稿——留本地。需要读几十万字资料、跨文件改代码、看图看视频——上云。判断标准不是难不难,而是能不能自动检查:代码有测试、翻译有对照、摘要有没有漏项,一眼能看出来;开放式的战略建议看不出对错,放本地只会让你多花时间复核。
- 用一天做对照测试。 挑 10 个你真实做过的任务,本地和云端各跑一遍,记录失败次数和返工时间。失败超过两次的那一类,别硬留本地。
四、三个别信的说法
「本地等于免费。」 电费、显卡、折腾的时间都是成本。一张能跑 27B 的卡,配齐整机少说几千元;按每月 40 美元算,够订好几年。它省的是月费和隐私风险,不是零成本。真正的划算场景是:你本来就有这张卡,而且每天都用。
「27B 能替代前沿模型。」 作者自己没这么说。他的原话范围很清楚:日常文本活够用,编程仍然选 Claude。把「够我用」听成「一样强」,是最常见的误读。
「量化不掉能力。」 4bit 是有损压缩。短问答看不出来,长上下文、多步推理、代码重构这类任务最容易露馅。更稳的做法是准备两个档位:日常用 4bit,遇到硬任务切到 6bit,或者直接上云。
五、一句话结论
本地模型买的是「不限额」和「不出门」,不是「最强」;把活分对,20 美元可以省,也不必全都省。
信息来源
- XDA: I'm not paying $20 for ChatGPT or Claude because a free local LLM does everything I need,2026 年 10 月 6 日
功能与价格以官方公告为准。本文写于 2026 年 10 月 18 日。
每周一封,只发新教程和可复制模板。不发广告,随时退订。