NVIDIA · 开发者博客· Elizabeth Goodman·· 18 天前AI 评分31
NVIDIA TensorRT Edge-LLM 在 Jetson AGX Thor 上以 6.4 倍速度完成 MLPerf Edge Agentic Benchmark
TensorRT Edge-LLM Completes the MLPerf Edge Agentic Benchmark 6.4x Faster on Jetson AGX Thor
AI 导读
NVIDIA TensorRT Edge-LLM 在 Jetson AGX Thor 平台上运行 MLPerf Edge Agentic Benchmark，推理速度比基准快 6.4 倍。该基准测试模拟了 AI 智能体在边缘设备（如车辆、机器人）上执行多步骤任务的工作流。
来源：NVIDIA · 开发者博客 · developer.nvidia.com