NVIDIA 用 CUDA Tile 加速 Mamba-2 的高性能前向传递内核

NVIDIA 推出 CUDA Tile (cuTile)，一种基于 Python 的 DSL 和并行编程模型，用于在 GPU 上实现高性能的 tile 级编程。该工具通过抽象线程和 warp 级调度，使开发者能用 Python 编写 GPU 内核，同时由编译器自动优化性能。cuTile 特别针对 Mamba-2 的前向传递过程进行加速，提升其在 NVIDIA GPU 上的运行效率。