跳到正文
Tom's Hardware· Shane Downing ·· 3 小时前精选AI 评分58

Kora OS发布:支持在CPU、GPU和NPU间调度AI模型的Linux操作系统

Cyanogen co-founder unveils Kora, a Linux OS that splits AI models across the CPU, GPU, and NPU

AI 导读

Kora Systems Inc.发布Kora,一款专为AI设计的Linux桌面操作系统,支持将AI模型工作负载分配至CPU、GPU和NPU,当前仅支持Snapdragon X2 Elite的Hexagon NPU,可通过llama.cpp的Hexagon后端运行Gemma 4 26B模型,达到25 tokens/秒的解码速度。

推荐理由

原文介绍了Kora OS如何调度AI模型在CPU、GPU和NPU间运行,以及对Snapdragon X2 Elite的支持细节,读者可据此评估其在端侧推理中的实际部署潜力。

来源:Tom's Hardware · tomshardware.com