Scaling Laws, Carefully
Scaling laws 描述了模型参数量、数据量和计算量之间的幂律关系，表明训练损失随模型规模、数据规模和计算资源的增加而可预测地下降。
#数据/训练
Lil'LogAI 评分2828 Weights & BiasesAI 评分3737 使用 W&B 和 Weave 构建品牌感知的图像生成模型评估循环
Weights & Biases 推出方法帮助用户构建图像生成模型的品牌感知评估循环，支持跟踪提示词保真度、FID 和品牌合规性。该方法通过集成 Weave 实现无缝评估，适用于需要确保生成内容符合品牌规范的场景。
Vector InstituteAI 评分3333 引入 SONIC-O1：用于真实世界音视频理解的开放、人工验证基准
Vector Institute 发布了 SONIC-O1，一个用于评估多模态大语言模型在真实世界音视频理解能力的开放基准。该基准包含约 60 小时的真实音视频内容，涵盖 13 个对话主题和 5 个领域，支持对模型在不同人群中的表现进行分组分析。
OpenAI AlignmentAI 评分4949 OpenAI 对齐研究：通过强化学习提升模型广泛有益行为的泛化能力
OpenAI 发现，在现实场景中针对有益特质进行强化学习，可使模型在多个衡量对齐和有益行为的基准测试中表现更优。这些对齐提升可泛化到训练未涉及的领域，并在对抗性压力下保持稳定。研究构建了一个涵盖健康、教育、科学等领域的现实对话数据集，用于训练和评估模型的诚实、可纠正性、透明度等特质。
Weaviate 博客精选AI 评分6262 Weaviate 大规模数据导入与向量化实践指南
Weaviate 官方发布大规模数据导入与向量化实践指南，涵盖服务器端批处理、错误处理与重试机制、数据类型选择、多模态数据处理（如 PDF、图像、视频）以及使用 blobHash 降低存储成本的方法。
推荐理由：原文提供了大规模数据导入的完整实践指南，包括批处理、错误处理、数据类型选择和多模态处理，读者可直接用于优化现有流程。
OpenAI AlignmentAI 评分4949 OpenAI Alignment 探讨公共聊天数据能否预测前沿 AI 对齐问题
OpenAI Alignment 研究表明，使用 WildChat 数据集模拟部署可较准确预测 GPT-5.1、5.2、5.4 等模型的实际失败率，误差平均在 3 倍以内。
Vector InstituteAI 评分3131 Anne Martel：使用 AI 个性化癌症治疗
Anne Martel 研究开发 AI 系统，从医学影像和临床文本数据中提取可操作信息，以帮助预测癌症患者对不同治疗方案的反应。她的团队近期在 ICCV 展示了如何通过基因组信息微调病理图像大模型，并结合临床记录文本提升预测准确性。该研究推动医疗影像 AI 从单纯应用计算机科学方法转向产生基础性创新，影响更广泛的 AI 社区。
Replit 博客AI 评分3030 Replit | Databricks：快速应用构建与细粒度数据治理结合
Replit 与 Databricks 集成新增用户到机器（U2M）连接器功能，支持基于 Unity Catalog 权限自动控制每个用户的数据访问范围。此次更新还开放了公测预览注册，企业团队可在 Replit 构建应用并直接部署至 Databricks，无需额外配置。Replit 提供静态 IP 支持，便于 IT 团队审批并确保与现有网络策略一致。
Amazon ScienceAI 评分4242 Project Eluna 如何实现物理世界中的智能体对齐
Project Eluna 是 Amazon 推出的智能体 AI 模型，用于在仓储中心等物理环境中自主执行多步骤任务。该模型通过物理引导深度学习、不确定性感知推理、文本到数值的桥梁构建等方法，确保推理符合物理规律并提升可靠性。其不确定性框架 UQ4CT 在五个基准测试中保持高准确率，同时将预期校准误差降低 25% 以上。
Amazon ScienceAI 评分4242 Amazon Science：Ground truth 是一个过程，而非数据集
Amazon 的 AGI 团队提出了一种新的评估协议 audit-then-score，用于验证 AI 生成的研究报告中的事实准确性。该协议通过让 AI 检查器质疑基准答案并提供证据，由人工审计员进行比较和修订，使基准本身成为动态过程。在 DeepFact-Bench 上，基于 GPT-4.1 的 DeepFact-Eval 准确率达到 83.4%，优于传统事实核查系统和先前深度研究系统。
Weights & BiasesAI 评分2323 使用 NVIDIA Cosmos 3 在 CoreWeave 上构建机器人数据飞轮
通过结合 CoreWeave 和 NVIDIA Cosmos 3，团队能够利用大规模合成数据和计算资源构建机器人数据飞轮。该方案为机器人开发提供了持续的数据生成与训练能力，支持高效模型迭代。NVIDIA Cosmos 3 与 CoreWeave 的合作增强了数据处理和算力调度的灵活性。
Amazon ScienceAI 评分3030 Amazon Research Awards 公布 2025 年秋季周期 70 位获奖者
Amazon Research Awards 公布 2025 年秋季周期 70 位获奖者，覆盖 49 所高校和 11 个国家，研究方向包括 Agentic AI、自动化推理、AI 安全与可持续性。
Weights & BiasesAI 评分2626 Understanding and applying the F1 score 如何理解与应用 F1 分数
本文讲解了 F1 分数的来源、数学原理、适用场景及不适用情况，并提供使用 scikit-learn 和 W&B 进行计算、调优和记录 F1 的实操教程。F1 分数结合了精确率和召回率，适用于类别不平衡的数据集评估。教程包含具体代码示例和工具使用方法，适合机器学习实践者参考。
Vector InstituteAI 评分2121 Mohamad Moosavi：用 AI 加速气候解决方案的探索
Mohamad Moosavi 通过深度学习使分子可微分，从而将材料科学中的离散变量转化为连续变量，大幅提升了材料发现和设计的效率。他目前使用拓扑深度学习方法，研究材料三维结构与性能之间的关系，无需逐一合成和测试大量候选材料。这种突破性方法为应对气候变化的可持续技术开发提供了更快的路径，加拿大凭借顶尖科研人才和对可持续发展的重视，正成为该领域创新的重要推动者。
Vector InstituteAI 评分2929 健康AI实施工具包 2.0：面向2026年的安全战略蓝图
健康AI实施工具包 2.0 是 Vector Institute 发布的全面指南，用于指导医疗系统在实际部署中负责任地管理整个AI生命周期。该工具包包含三个核心支柱：战略AI治理、偏见缓解与公平性、以及安大略省医院的现实验证案例。工具包新增了持续监控、模型漂移检测和部署后验证等策略，以应对医疗AI在实际应用中可能带来的风险。
Vector InstituteAI 评分2121 Vector Institute 向安大略省顶尖 AI 研究生颁发 100 份奖学金
Vector Institute 为 2026-27 学年安大略省 100 名顶尖 AI 研究生颁发每份 17,500 美元的奖学金，总金额达 175 万美元；该奖学金项目已连续九年运行，累计支持超过 900 名学生；安大略省高校已连续五年超过每年培养 1,000 名 AI 硕士毕业生的目标。
Berkeley AI ResearchAI 评分3535 自适应并行推理：高效推理扩展的下一个范式
自适应并行推理让推理模型能自行决定何时分解并并行化独立子任务、生成多少并发线程以及如何协调它们。这种方法旨在解决顺序推理因探索路径线性增长而导致的延迟增加、计算密集和上下文窗口受限问题。研究分析了从固定并行到自适应控制的各种方法，指出让模型根据问题自适应决策是提升并行化效果的关键。
OpenAI AlignmentAI 评分4848 OpenAI 探究在 RL 训练中意外对 CoT 进行评分的后果
OpenAI 发现部分已发布的 GPT 模型在 RL 训练中意外接受了 CoT 评分，包括 GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini。分析显示这些情况未造成 CoT 可监控性显著下降，但存在潜在风险。为防止类似问题，OpenAI 已修复相关奖励路径并加强内部流程与检测系统。
Weaviate 博客AI 评分4040 Your LLM Is Only as Good as What It Retrieves
检索质量是影响大语言模型输出可靠性的关键因素，当检索失败时，模型会生成看似合理但缺乏事实依据的内容。研究发现，在 HaluEval、TruthfulQA 和 FaithDial 等基准测试中，检索层问题始终是幻觉产生的主要来源。五种常见的检索失败模式包括检索漂移、上下文截断、过时索引污染、低相关性 top-k 检索和智能体间误通信，这些问题在多智能体系统中尤为隐蔽且难以检测。
Together AIAI 评分3434 Together AI 与 Adaption 合作，在 Adaptive Data 中集成 Together Fine-Tuning
Together AI 与 Adaption 合作，将 Together Fine-Tuning 集成到 Adaptive Data 平台中。Adaption 平台能帮助团队分析数据集结构、优化训练数据，早期部署平均提升数据质量 82%。用户可在 Adaption 中优化数据集后，直接启动 Together Fine-Tuning 进行微调，并部署到 Together AI 的高性能推理服务上。
Weights & BiasesAI 评分2929 基于 Gemma-3 270M 训练的紧凑型视觉语言动作模型
Weights & Biases 报告介绍了基于 Gemma-3 270M 训练的紧凑型视觉语言动作（VLA）模型。该模型使用 Gemma-3 270M 作为核心，专注于实现高效的多模态交互能力。模型的参数规模和具体性能指标未在文中披露，但其设计目标是为资源受限环境提供轻量级解决方案。
Vector InstituteAI 评分2525 Hassan Ashtiani：通过数学基础构建可信 AI
Hassan Ashtiani 研究如何通过数学证明确保 AI 系统在面对复杂攻击时仍能保持隐私和可靠性。他提出“黑盒约简”方法，可将现有机器学习技术封装进隐私保障框架，无需重新设计算法。该方法已在 NeurIPS 2018 获得最佳论文奖，有助于加拿大在保护隐私的同时推动 AI 发展。
Together AIAI 评分4444 Together AI 发布 distribution-aware speculative decoding 框架，将 RL 训练 rollout 速度提升最高 50%
Together AI 推出的 distribution-aware speculative decoding (DAS) 框架将 RL 后训练中的 rollout 阶段速度提升了最高 50%，且不影响模型输出质量。该框架包含自适应后缀树草稿器和长度感知调度策略，在 DeepSeek-R1-Distill-Qwen-7B 的数学推理任务中实现了超过 50% 的 rollout 时间缩减。
Berkeley AI ResearchAI 评分4949 GRASP：面向长时程世界模型的梯度规划方法
伯克利 AI 研究团队提出梯度规划器 GRASP，旨在解决基于学习型世界模型进行长时程规划时面临的优化病态、局部极小值和高维潜在空间失效等难题。该方法通过将轨迹提升至虚拟状态以实现跨时间并行优化，直接向状态迭代添加随机性以增强探索，并重塑梯度以提供清晰的动作信号。GRASP 提升了梯度规划在长时程、高维视觉空间任务中的鲁棒性。
Ahead of AIAI 评分3535 我理解大语言模型架构的工作流程
我的工作流程主要基于官方技术报告和可运行的参考实现来解析大语言模型架构，尤其适用于开源模型。通过直接检查 Hugging Face Model Hub 上的配置文件和代码，可以获得更具体的架构细节。该流程旨在手动理解模型结构，认为亲自操作仍是学习架构原理的最佳方式之一。
OpenAI 新模型AI 评分3434 OpenAI 推出 Privacy Filter：用于文本中隐私信息检测与遮蔽的双向 token 分类模型
OpenAI 推出 Privacy Filter，这是一个用于文本中隐私信息检测与遮蔽的双向 token 分类模型，支持在单次前向传递中对输入序列进行标注并解码连贯的隐私标签。
Together AIAI 评分3939 Together AI 推出 Parcae：基于稳定循环架构实现更少参数更高性能
Together AI 推出 Parcae，一种稳定的循环 Transformer 架构，其 770M 参数模型在相同数据上达到了 1.3B 参数 Transformer 的质量。Parcae 相比之前的大规模循环模型，验证困惑度降低了最高 6.3%，并首次建立了循环的扩展定律。
ARC PrizeAI 评分3535 ARC-AGI-3 人类表现数据集发布：458 名参与者完成 25 个抽象推理环境测试
ARC Prize 发布了 ARC-AGI-3 人类测试数据集，包含 458 名参与者在 25 个抽象推理环境中的表现，所有环境均在无先验训练条件下完成。数据集显示人类完成率从 2/12 到 10/10 不等，其中 lp85 环境有 54 次尝试和 15 次成功解决。该数据集开源，提供每环境的完成次数、解决次数及前 10 名回放得分，用于分析人类解决效率和策略。
Together AIAI 评分4646 Together AI 论文：利用 LLM 优化数据库查询执行
Together AI 的研究论文展示了如何利用 LLM 优化数据库查询执行计划。其 DBPlanBench 框架将 Apache DataFusion 的物理执行计划序列化后交由 LLM 分析，通过生成 JSON Patch 进行局部调整，而非重写整个计划。
Hamel HusainAI 评分5050 数据科学家的反击：AI工程中的数据科学回归
Hamel Husain在PyAI Conf上发表题为《数据科学家的反击》的演讲，指出尽管LLM API让AI集成更便捷，但数据科学的核心工作——如实验设计、指标构建、数据验证和错误分析——并未消失。
Ahead of AIAI 评分4848 现代大语言模型中注意力机制变体的视觉指南
本文提供了现代大语言模型中注意力机制变体的视觉指南，包含 45 个模型架构的图示卡片。作者基于过往内容整理并补充了多个重要架构，同时推出了可通过 Redbubble 获取的海报版本。文中还回顾了近期在主流开源模型中使用的注意力变体，如 grouped-query attention、sliding window attention 等。
Together AI精选AI 评分5656 Together AI 扩展微调服务，支持工具调用、推理和视觉模型
Together AI 扩展其微调服务，新增了对工具调用、推理和视觉语言模型的原生支持。服务升级了训练栈，可更高效地处理 100B+ 参数模型，吞吐量提升最高达 6 倍，并支持最大 100GB 的数据集。
推荐理由：Together AI 的微调服务新增了对工具调用、推理和视觉模型的支持，并提升了大规模模型训练的效率。
Together AI精选AI 评分6161 Together AI 发布 Mamba-3 状态空间模型
Together AI 联合多所大学的研究人员发布了 Mamba-3，这是一个以推理效率为主要目标的新状态空间模型。Mamba-3 通过更复杂的循环公式、复数值状态跟踪和 MIMO 变体提升了性能，其 SISO 版本在 1.5B 规模上，所有序列长度的预填充+解码延迟均优于 Mamba-2、Gated DeltaNet 和 Llama-3.2-1B。
推荐理由：Mamba-3 将设计目标从训练效率转向推理效率，并开源了内核，为关注部署性能的开发者提供了新的架构选择。
Replit 博客精选AI 评分5454 Replit 推出与 Databricks 的集成连接器，支持企业级数据应用的快速构建
Replit 推出与 Databricks 的新连接器，允许用户在 Replit 中直接访问 Databricks 的治理数据、模型和仓库，无需复制敏感数据。通过 Replit Agent，用户可快速构建如3D天气地球仪等数据应用，Databricks Genie 提供自然语言问答与数据溯源能力。该集成使产品经理、分析师等非工程角色能直接构建受控的企业级数据应用，缩短开发周期。
推荐理由：原文展示了Replit与Databricks的集成方式和实际应用案例，读者可以据此判断该连接器如何支持企业级数据应用的快速构建。
Berkeley AI ResearchAI 评分3232 Berkeley AI Research 提出 SPEX 与 ProxySPEX：大规模识别 LLM 中的交互作用
Berkeley AI Research 提出了 SPEX 和 ProxySPEX 算法，用于大规模识别驱动大语言模型决策的关键交互作用。SPEX 利用稀疏性和低阶性将搜索问题转化为可解的稀疏恢复问题，而 ProxySPEX 则利用层次结构特性，能以约 10 倍更少的消融操作达到与 SPEX 相当的性能。这些框架能高效应用于特征归因、数据归因和模型组件归因，提升模型的可解释性。
Vector InstituteAI 评分2626 Vector Institute 2026 海报展示会：60 个研究项目塑造 AI 未来
Vector Institute 2026 海报展示会呈现了 60 个研究项目，涵盖医疗健康、AI 安全与基础模型创新三大主题。其中近 20% 的研究聚焦医疗 AI，包括语音控制手术导航、癌症检测和医学影像技术。加拿大在 AI 领域的领导地位通过政府支持与产业合作得以体现，研究强调负责任的 AI 发展与技术落地。
Vector InstituteAI 评分3434 CRISPNAM-FG：一种用于医疗健康领域竞争风险的可解释深度生存模型
Vector 研究人员开发了 CRISPNAM-FG，一种可解释的深度生存模型，用于预测糖尿病患者出院后足部并发症的风险，并提供完整的决策透明度。该模型结合了 Fine-Gray 竞争风险框架与神经可加模型，实现高预测性能与特征级可解释性。
fal 博客AI 评分3131 Ulysses 上下文并行：通信与计算重叠的实验
针对视频扩散模型长序列处理的 Ulysses 上下文并行方法，通过异步执行和融合投影优化了通信与计算的重叠。在 8 块 B200 GPU 的基准测试中，异步 Ulysses 使预注意力块延迟降低约 23–25%，端到端性能提升约 3%；融合 QKV 投影在 2-4 GPU 配置下将块延迟进一步降低 33-37%。实验表明，重叠是稳健的高规模默认方案，而融合在中低规模下效果最强。
Replit 博客AI 评分2727 Replit 与 Databricks Apps 集成：加速企业数据应用开发
Replit 与 Databricks 推出集成方案，使企业用户能在 Replit 中编写数据应用代码并直接部署至 Databricks Apps，实现与治理数据的实时连接。
Exploring Language ModelsAI 评分1616 "The Story Behind the 'RAG Pack' 的中文标题"
五位 AI 教育者联合推出强化学习课程《Reinforcement Learning for Large Language Models》，课程包含大量可视化内容和多角度教学。他们组成名为“RAG Pack”的团队，计划根据社区反馈决定是否持续产出内容。课程提供五模块学习和问答环节，使用代码 FINETUNE50 可享 50% 折扣。