跳到正文
  1. cnBeta60

    KAIST 与微软研发“神经价值对齐”AI 系统,通过脑电波判断意图

    KAIST 与微软的研究团队开发了名为“神经价值对齐”的 AI 系统,利用脑电图监测用户大脑的预测误差信号,以判断 AI 是否理解或执行了用户的真实意图。系统分析奖励预测误差和状态预测误差两类神经信号,能区分错误发生在目标还是执行层面。

    推荐理由:原文介绍了利用脑电信号解决人机意图对齐模糊性的具体方法,为理解下一代交互式智能系统提供了技术视角。

  2. Hugging Face Blog62

    Microsoft 与 Hugging Face 发布智能体评测基准 ThinkingBox

    Microsoft 与 Hugging Face 联合发布智能体评测基准 ThinkingBox,通过检查数据库最终状态和副作用而非工具调用来评估智能体。该研究在 507 个有状态工作流上对 12 个 LLM 模型进行了 20 次重复测试,发现模型的一次性成功率(pass@1)与始终正确率(20/20)之间存在巨大差距。

    推荐理由:该研究通过检查数据库最终状态而非工具调用来评估智能体,揭示了模型一次性成功与可靠执行之间的显著差距。

  1. Microsoft Research54

    微软研究院推出生物AI研究系统Quine

    微软研究院推出名为Quine的生物AI研究系统,该系统包含一个多模态生物世界模型和一个连接模型、科学工具、文献与研究人员的工作平台。在与Broad Institute的合作中,Quine被用于预测和优先排序能驱动肿瘤细胞状态转变的化合物,其排名靠前的候选物在湿实验室实验中得到了验证。

    推荐理由:原文展示了该系统在癌症研究中的具体应用案例和效果,为关注AI在生物科学领域落地的读者提供了实践参考。

已经到底了