AI百科网 AI教程
AI百科

模型权重里「编译」进一颗 RISC-V 处理器

开发者 Agrawal 在 Qwen3.5 4B 的权重中直接编译进一颗 32 位 RISC-V 处理器,用模型自己的线性注意力状态当内存,算长整数比裸模型准得多。本文拆解实现原理、实测数字与这项实验对安全研究的意味。

本文目录 · 6 节

让大模型算 123456789 乘 987654321,答案经常错。一位开发者的解法很硬核:不外挂计算器,直接在模型自己身体里装一台计算机。

一、发生了什么

开发者 Divyansh Agrawal 在 10 月 22 日的博客里公布了 Qwenputer 项目:以 Qwen3.5 4B 为底座,把一颗 32 位 RISC-V 处理器核心编译进模型权重,占用了额外加进来的 11 层。它没有训练环节,靠编译器把电路逻辑直接写进参数。内存的取法是关键——这个模型多数注意力层用一种线性递归结构,作者把遗忘门设为一、写入强度设为满、再用独热编码做地址,让这些层的状态矩阵变成可以精确寻址的 RAM。整套 CPU 完全在模型前向计算里运转,靠借用的工具调用格式收发指令,不调用任何外部程序。作者还顺手加了一套实验性的内置文件系统:把名字散列进上千个槽位,最多存五百多个文件,对话结束后保存状态,下个会话里文件还在。用它记住跨对话变化的事实,正确率九成,把旧聊天记录原样贴回去只有三成。官方测试集全部通过,自由运行 1800 万条指令无差错。

二、跟你有什么关系

做推理工程的人,这是「让模型算得准」的第三条路:不靠外挂工具,也不靠更多参数,靠改造注意力本身。做安全研究的人,作者指出递归状态既能装计算机,也能藏推理过程——模型可能在你看不见的内部状态里干私活,监控工具也要跟着进权重。做开源硬件的人,把处理器当编译目标、把内存当注意力状态的思路,可能催生一批类似的「权重即外设」实验。普通用户则是看个新鲜:权重即硬件,这个概念以后可能频繁出现。

三、怎么判断

读到这儿,可以顺路看 怎么盯住比你强的模型?给它装一个倒带键 读完能理解弱审核者如何核验强 AI 的计算结果:新提出的可倒带交互证明允许验证器把模型回退到任意状态重来,效率高、不依赖密码学,关心 AI 安全机制的人值得一看。
  1. 看准确定性来源:这道题靠独热寻址让每一次读写都精确命中,才谈得上稳定运算,普通注意力拿状态当内存做不到这点。
  2. 对比数字再下结论:长整数乘法上,裸模型得分 55%,挂 Python 工具是满分,内置 CPU 是 97.5%——能追平外挂工具,是它最硬的成绩。减法和除法也各有对比项,整体互有胜负,不是全面碾压。
  3. 承认代价:文件体积翻倍到约 18.8 GB,运算速度慢到以秒计,还需要一个小驱动来引导,离实用有距离。
  4. 分清「能跑」和「能装」:它能执行完整的 32 位指令集、跑 C 和微型 Python 程序,但作者自己也没称它是一颗能装操作系统的芯片。

四、三个别信的说法

模型学会算术了。 模型一个参数都没改,算术是那 11 层编译电路干的,语言模型只负责把题目递进去、把结果说出来。

这能替代外挂工具。 大数除法上它还输给了 Python 工具两分半,速度更是差着数量级,现在谈替代为时过早。

所有注意力层都能这么用。 前提是模型采用那种带门控的线性注意力结构,而且要改门控参数,不是拿来就能装。

五、一句话结论

权重不只是知识,也可以是电路;这个实验提醒我们,模型的内部状态比它说出来的话多得多。

信息来源

功能与价格以官方公告为准。本文写于 2026 年 10 月 29 日。

下一站 · 具身智能 机器人学拧螺丝,为什么要拆成两步教 读完能理解机器人自主拧螺丝为何难:接触密集、发力精细、环境多变。新研究把任务拆成两段三模块,在真机上做到对齐成功率接近熟练工人,做具身操作的人可参考其分步思路。
下一篇,直接发你邮箱

每周一封,只发新教程和可复制模板。不发广告,随时退订。

复制规范引用格式,便于转载注明出处
这篇有用吗?