开源中国·· 2 小时前精选AI 评分70
开发者在 Qwen 3.5 4B 权重中编译 RISC-V CPU 并用注意力层作内存
拿注意力层当内存——有人在 Qwen 权重里编译了一颗 RISC-V CPU
AI 导读
开发者 Divyansh Agrawal 在 Qwen 3.5 4B 的权重中编译了一颗 RISC-V CPU，利用模型的 Gated DeltaNet 注意力层作为内存，实现无需外部运行时的算术运算和 C、MicroPython 代码执行。该方法完全运行在模型前向传播中，不依赖插件或工具调用。
推荐理由
原文展示了在大模型权重中嵌入 CPU 的具体方法，读者可据此理解模型内部结构与计算能力的边界拓展。
来源：开源中国 · oschina.net