Spyre 作为原生 PyTorch 设备的构建方式

Spyre 通过 torch-spyre 连接 PyTorch 的设备、分配器、流和编译器抽象，成为其原生设备，实现张量驻留和低开销启动。该设备基于数据流架构，拥有 32 核心、128 GB LPDDR5 和固定布局编译，支持在不同流中独立调度数据传输与计算任务。PyTorch 的 PrivateUse1 注册和模块集成使开发者可通过熟悉接口使用 Spyre 硬件。