研究称AI推理转向边缘需重构内存架构

半导体工程（Semiconductor Engineering）发表的研究分析报告指出，AI从数据中心训练转向边缘设备推理，需要从根本上重新设计数据处理和存储的位置与方式，以减少数据移动、功耗和延迟。 报告称，不同AI工作负载对内存结构、互连和处理方式有不同要求，而软件支持、标准化和散热管理仍是广泛应用的主要障碍。Cadence的Frank Ferro表示，随着大语言模型部署到物理设备，系统需提前编译以优化内存内计算或内存附近计算的执行效率。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。