把 AI 味从 Qwen3-4B 里训掉,实测怎样
看懂一位开发者怎么把 Qwen3-4B 里那种「AI 腔」训掉,破折号、三段式排比、先抑后扬都归零,以及它文风变平、仍会编人名地名这些代价。
读多了 AI 写的文字,你会认得那种味道:成串的破折号、「不是 X 而是 Y」的句式、凑三个的排比、张口就来的「here's the thing」。一位开发者把这套习惯从 Qwen3-4B 里训掉了,发布了微调模型,成绩是自己的评分从每千词 121 降到 12.5。这个分数到底意味着什么,值不值得你把写作工具换过去,往下看。
一、发生了什么
据项目的公开技术博客,作者基于 Qwen3-4B-Instruct-2507 微调,发布了 qwen3-4b-deslop,配套模型和 GGUF 量化版都放在 Hugging Face。他把 AI 写作习惯写成一个带权重的正则评分器,人类写作通常低于 15 分,原模型平均 121 分。
方法分两步:一是翻转 4 个 MLP 神经元的权重符号,分别在第 28、32、33 层,只占 175 字节,能去掉约七成的「不是 X 而是 Y」;二是用一个 rank-16 的 LoRA 适配器蒸馏,训练集来自老师模型在 288 个提示词上的回答里筛出的 161 个合格样本。
结果是,在 40 个训练外提示词上,评分从 121 降到 12.5,破折号从每千词 20.5 个归零,68% 的回答落进人类写作区间,30 道常识题全对。量化版 Q4_K_M 只有 2.5GB,用 Ollama 就能在笔记本上跑。这些数字都是作者自己定的口径,别当成第三方评测来看。整个项目的价值,也不止在这个模型本身,更在那套「把文风量化成评分、再用评分去训模型」的方法上。
二、跟你有什么关系
对要批量写营销文案、个人博客、技术说明的人,这是个能本地离线跑、无需系统提示词就自带去腔调的小模型。省掉了「别用排比、别用破折号」那串又长又难维护的提示词。
对做本地推理的人,2.5GB 的量化体积,普通笔记本就能带起来,适合资源受限的环境。一张老笔记本也能跑,不用租云卡。
对做内容产品、想给输出「去 AI 味」的团队,他的方法本身有参考价值:把文风问题量化成一个评分器,再拿它当训练信号,这套思路可以迁移到别的基座模型上。
对关心事实的人,得留个心眼:它文风变干净了,但编造人名地名的问题还在,别拿它当事实来源。文字顺了,不代表内容真了,这两件事要分开看。
三、怎么用
读到这儿,可以顺路看 1.58GB 的转写模型,不插显卡也能实时 微软把语音识别模型从 4.62GB 压到 1.58GB,普通笔记本 CPU 就能跑出实时速度。这篇给出实测数字,讲清"实时"的真实含义和它不适合的场景。- 用 Ollama 拉取 GGUF 量化版,直接本地运行,无需系统提示词。开箱就是去腔调的,省掉了调提示词的步骤。
- 拿你手头的一类真实任务试写几段,重点看它有没有把要求的事做完,而不是只看像不像人写的。像人写的但没干完活,比有点 AI 味更糟。
- 控制长度别信它:它容易写长,要 150 字常常给出近 200 字,需要手动收。把它当草稿工具,成稿前自己剪一遍。
四、三个别信的说法
评分低就等于写得好。 错。作者自己承认,这个评分只是他把风格指南写成正则表达式,分不清好坏文笔,也没做过读者盲测。分数衡量的是「离那套腔调多远」,不是「文字多漂亮」。
训掉腔调后它就变可靠了。 错。它不再编研究机构和百分比,但编造人名、地点依旧常见,因为每一轮都奖励具体细节。腔调可以洗掉,编造的老毛病还在。
这模型啥都能干。 错。作者只在英文短文体裁上测试过,代码、长对话、其他语言和工具调用可能不比原模型好,甚至更差。它是个「专攻去 AI 味」的窄工具,不是全能选手。
五、一句话结论
它把一个具体问题——AI 腔——解决得相当干净,代价是文风发平、仍会编造,适合当草稿工具,不适合当真。
信息来源
- Qwen3-4B with the AI writing tics trained out(技术博客) · 2026-10-20
- Developer Releases Qwen3-4B Fine-Tune(Let's Data Science) · 2026-10-20
功能与价格以官方公告为准。本文写于 2026 年 10 月 21 日。
每周一封,只发新教程和可复制模板。不发广告,随时退订。