本地跑 AI 编程：每秒 55 词元，账怎么算

「免费」的本地 AI 编程，最贵的那部分从来不写在价目表上。

一、发生了什么

10 月 16 日，JetBrains 发布公告：本地 AI 编程工具 Junie Local 已完成对英伟达 RTX Spark 平台的 Day 0 适配，同时 Windows 支持从实验阶段转为稳定版。

能力不新鲜，位置很关键。用户可以在符合要求的电脑上，让 AI 读取代码、修改文件、运行测试——这套流程过去基本要在云端完成。

JetBrains 给出的卖点很直接：无需注册或订阅，不收词元费，不设使用配额，代码不必上传云端。性能方面，官方给的说法是：在 RTX Spark 上做初步测试，最高能跑到每秒 55 个词元。

硬件门槛也一并放开了。除 RTX Spark 设备外，搭载至少 24GB 显存、Ampere 或更新架构的 RTX 显卡也能跑，包括 RTX 3090、4090 和 32GB 显存的 5090。系统要求对应架构的 Windows 11、581 或更新版本的英伟达驱动，并预留约 20GB 磁盘空间。

24GB 这条线不是随便定的。一个 27B 参数的模型，压到 4 位精度后大致十几 GB，加上上下文缓存，24GB 显存刚好够用；再小就会频繁把数据挪到内存，速度掉得厉害。32GB 的 5090 之所以被单独点名，是因为更大的上下文能吃下更多文件，跨文件改代码时才不容易「忘」。

安装程序会做三件事：检查显卡和驱动、部署模型、按可用显存调整上下文容量。模型可选 Qwen3.6-27B 或 JetBrains 提供的融合模型。

个人开发者：如果你每天真的在写代码，这张卡迟早要买；如果你一周只写两个晚上，云端订阅更便宜。区别不在单价，在利用率。

小团队负责人：本地部署不等于团队共享。一台机器一次只能服务一个人，五个人排队等一张卡，省下的订阅费会以等待时间的形式还回去。

处理敏感代码的人：这是本地部署最硬的理由。代码不出内网，过合规评审时少一层解释。金融、医疗、政企的外包项目，这一条往往比省钱重要。

先算真实使用时长。 按官方峰值 55 词元每秒粗算，满速跑一小时约 20 万词元。一天认真用 4 小时，约 80 万；一年 250 个工作日，约 2 亿。这个量级够不够，取决于你是「边写边问」还是「偶尔补个函数」。

再看硬件是一次性还是追加。 24GB 显存是硬门槛，3090、4090、5090 三档都能过线。如果这台机器你本来就要买来打游戏或做渲染，AI 只是顺带用，那这笔账很划算；如果是为了 AI 专门配一台，就要按整机价格摊到三年。

把隐性成本算进去。 一张 4090 满载功耗 450 瓦（官方规格），一天跑 6 小时约 2.7 度电，按民用电价算一天一两块钱，一年几百块。再加上驱动升级、模型更新、显存不够时换卡的折旧，这些都不在「免费」两个字里。

「本地跑就是零成本。」 电费、硬件折旧、维护时间都是成本。真正的零成本只发生在「机器本来就有、本来就要开」的场景。为了一款工具专门买卡，回本周期可能比你想的长。

「24GB 显存就能达到云端效果。」 显存决定能不能装下，不决定装下之后有多聪明。27B 的模型和云端旗舰不是一个量级，长上下文、复杂重构、跨文件推理的差距，用几天就能感觉出来。

「代码不出本机就等于绝对安全。」 模型文件、插件、更新包仍要从外部下载；工具本身也可能有遥测。想做到真隔离，得断网、审插件、管更新，不是点一下「本地模式」就完事。

本地 AI 编程不是省钱方案，是把「按次付费」换成「一次性投入加持续维护」。每天写代码的人值得买，偶尔写的人继续订阅。

IT之家《JetBrains 的本地 AI 编程工具 Junie Local 已 Day 0 适配英伟达 RTX Spark：吞吐最高每秒 55 个词元》，2026-10-17：https://www.ithome.com/1/014/242.htm

功能与价格以官方公告为准。本文写于 2026 年 10 月 17 日。