Tom's Hardware· Shane Downing ·· 3 小时前精选AI 评分58
Kora OS发布:支持在CPU、GPU和NPU间调度AI模型的Linux操作系统
Cyanogen co-founder unveils Kora, a Linux OS that splits AI models across the CPU, GPU, and NPU
AI 导读
Kora Systems Inc.发布Kora,一款专为AI设计的Linux桌面操作系统,支持将AI模型工作负载分配至CPU、GPU和NPU,当前仅支持Snapdragon X2 Elite的Hexagon NPU,可通过llama.cpp的Hexagon后端运行Gemma 4 26B模型,达到25 tokens/秒的解码速度。
推荐理由
原文介绍了Kora OS如何调度AI模型在CPU、GPU和NPU间运行,以及对Snapdragon X2 Elite的支持细节,读者可据此评估其在端侧推理中的实际部署潜力。
来源:Tom's Hardware · tomshardware.com