新方法让AI在安全关键场景中更可靠

MIT 研究人员开发了一种名为 HardFlow 的新算法，使生成式 AI 模型在安全关键场景中生成满足严格约束条件的高质量输出。该方法在生成过程中给予模型更多自由度，仅在最终输出时强制执行硬约束，避免了传统方法在中间步骤过度限制导致的性能下降。实验表明，HardFlow 在机器人操作、迷宫导航和文本引导图像编辑等任务中实现了完美的约束满足，同时在解决方案质量上优于现有方法。