KAIST 与微软研发“神经价值对齐”AI 系统，通过脑电波判断意图
KAIST 与微软的研究团队开发了名为“神经价值对齐”的 AI 系统，利用脑电图监测用户大脑的预测误差信号，以判断 AI 是否理解或执行了用户的真实意图。系统分析奖励预测误差和状态预测误差两类神经信号，能区分错误发生在目标还是执行层面。
推荐理由：原文介绍了利用脑电信号解决人机意图对齐模糊性的具体方法，为理解下一代交互式智能系统提供了技术视角。
#Microsoft
cnBeta精选AI 评分6060 Hugging Face Blog精选AI 评分6262 Microsoft 与 Hugging Face 发布智能体评测基准 ThinkingBox
Microsoft 与 Hugging Face 联合发布智能体评测基准 ThinkingBox，通过检查数据库最终状态和副作用而非工具调用来评估智能体。该研究在 507 个有状态工作流上对 12 个 LLM 模型进行了 20 次重复测试，发现模型的一次性成功率（pass@1）与始终正确率（20/20）之间存在巨大差距。
推荐理由：该研究通过检查数据库最终状态而非工具调用来评估智能体，揭示了模型一次性成功与可靠执行之间的显著差距。
已经到底了