跳到正文
Hacker News · AI· mtnmcg·· 3 小时前AI 评分36

PCEI – 结合 BitNet 1.58B、Mamba 和 FastKAN 的设备端具身 AI 框架

PCEI – On-device embodied AI combining BitNet 1.58B, Mamba, and FastKAN

AI 导读

PCEI 框架在单块消费级 GPU 或 Apple Silicon M-Series 上实现了具有多模态能力的具身 AI,仅需 750M 参数。该框架采用线性时间选择性状态空间(Mamba SSM)替代传统二次注意力机制,推理时内存复杂度为 O(1),并引入 BitNet 1.58B 的三值量化技术,将矩阵计算能耗降低至原来的 1/10。

来源:Hacker News · AI · github.com