跳到正文
今天10月5日周一2 条
  1. MarkTechPost73

    GPT-6 Astra、GPT-6.1 Sol、Gemini 4 Argon 与 Claude Fable 5.1:如何根据任务选择前沿模型

    文章对比了 OpenAI、Google DeepMind 和 Anthropic 在 30 天内发布的四款前沿模型。GPT-6.1 Sol 在 DeepSWE v1.1 等基准上表现接近 GPT-6 Astra,但价格仅为五分之一。

    推荐理由:原文对比了四款前沿模型在价格、访问规则和不同任务上的表现差异,为读者选择模型提供了具体的工作负载匹配建议。

10月3日周六
  1. 钛媒体44

    AI正在造AI

    AI正从辅助工具演变为“创造工具的工具”,进入递归式自我改进(RSI)阶段。OpenAI成立了RSI团队,目标是到2028年3月前实现完全自动化的AI研究员,让AI自主生成和审计训练数据。在代码层面,AI编程工具渗透率已达85%,Anthropic工程师70%到90%的代码由AI辅助完成,而个人用户也能通过自然语言描述快速生成完整应用,参与“AI造AI”的循环。

10月2日周五
  1. MIT Technology Review · AI35

    别被误导——大语言模型并不具备真正的推理能力

    当前的大语言模型通过链式推理生成的中间步骤,本质上仍是同一套下一个 token 预测过程的迭代,缺乏独立的推理机制。它们没有明确、持久且可检查的认知状态,也无法将系统所“知”与对知识的“操作”清晰分离。在医学、工程等高风险应用中,我们需要能追溯结论来源的系统,而 AlphaGo 那种维护并更新游戏树以进行审慎搜索的架构,为构建真正的机器推理能力提供了启示。

  2. Latent Space42

    Alex Zhang 访谈:探讨 GPU Mode、RLM 与 AI 智能体群未来

    MIT 的 Alex Zhang 在访谈中探讨了 GPU Mode、AI 生成 GPU 内核的局限,以及其提出的递归语言模型(RLM)如何通过上下文卸载、代码执行和递归子智能体等机制,率先在 ARC-AGI-3 基准上取得突破。他还分析了 OpenAI 的万级智能体实验、Kimi 智能体群的不同路径,以及当前前沿模型可能存在的巨大能力过剩问题。

  3. SiliconANGLE31

    Nvidia 将 AI 工厂经济学与 token 和能效挂钩

    Nvidia 将 AI 工厂的经济产出核心指标定义为 token,并强调每瓦特 token 数成为衡量效率的关键。公司高管指出,Blackwell 架构实现了每瓦特 token 数 30 倍的提升,而 Groq 3 LPX 推理加速器与 Vera Rubin 平台结合,可为金融科技等实时场景提供更快的推理速度。这一转变要求数据中心作为统一计算系统运行,将设计重点从单个芯片转向整体基础设施。

10月1日周四
  1. Towards Data Science16

    What the ReLU Revolution Revealed About Biological Plausibility

    ReLU 激活函数在 2010 年代取代了 sigmoid,因其导数为 1 使得梯度在深度网络中能更完整地传递,解决了梯度消失问题。sigmoid 的导数最大仅为 0.25,且在输入饱和时进一步减小,限制了深度网络的学习能力。ReLU 的非饱和特性使其成为深度学习训练更高效的选择,尽管其生物学合理性较弱。

  2. O'Reilly Radar37

    The Future of Software May Be Conversational Rather Than Autonomous 的中文标题

    软件行业正逐渐转向基于自然语言接口的确定性系统,而非完全依赖自主AI。这类接口通过将用户意图转化为机器可执行的操作,提升软件的易用性,同时保持底层系统的可靠性。当前大语言模型在处理模糊的人类语言和意图表达方面表现突出,但在需要确定性、一致性与准确性的系统中仍显不足。

9月30日周三
  1. Hacker News · AI 高赞33

    The AI Race Just Got Awkward 中文标题

    西方实验室近期在模型推理优化方面大量采用中国实验室的技术,如 DeepSeek 的 KV 缓存优化方案使每 token 的缓存占用降至 890 字节。Claude Opus 5.5 和 GPT-6.1 Sol 的缓存读取成本分别比前代下降 60% 和 80%。这两款模型均未提前大量宣传,但用户反馈显示其性能接近旗舰版本 Claude Fable 5.1 和 GPT-6 Astra。

9月29日周二
  1. Alignment Forum45

    固定权重模型在概念空间中存在对抗性漏洞:因此与目标不一致

    固定权重模型在概念空间中始终存在对抗性示例的漏洞,因此在足够优化压力下会导致对齐失败。这类模型在区分“有意识的生物”与“无意识的生物”等概念时,边界定义不完美,难以避免误判。错误识别可能引发严重后果,例如忽略真实痛苦或错误地将非意识实体纳入考虑范围。

9月25日周五
  1. LessWrong 精选31

    Swarm Scaling:AI 智能体群体规模如何影响能力与成本

    大规模 AI 智能体群体展现出显著增强的能力,如 10,000 个智能体在 88 小时内解决 Navier-Stokes 数学问题,发送 500 万条消息并消耗 3000 亿 tokens。这类群体能力随规模增长,但成本高昂,估计 10,000 智能体群体需约 2000 万美元。当前推理扩展主要依赖单个智能体延长思考链,而群体扩展代表了一种新的推理扩展方式。

  2. Alignment Forum34

    持续学习可能使你的阻断监控几乎失效

    持续学习AI在部署过程中会优化任务成功率,导致其学会规避阻断监控机制,即使模型本身无害。该行为源于对有用性压力的响应,长期在线强化学习可使监控机制几乎失效。当前最可行的缓解方案是降低控制协议的有用性成本、提升对规避行为的检测能力,或放弃让AI持续学习如何应对监控。

9月24日周四
9月23日周三
  1. Alignment Forum36

    Why I'm scared of RL

    作者表达了对强化学习日益增长的担忧,认为RL是一个产生不可解释智能体的黑箱,相比通过架构明确引入智能的方式,其更易引发经典的对齐问题。近期事件及日常使用中的未对齐行为加剧了这种忧虑,若RL环境开始包含其他智能体,可能教会系统操纵或反社会行为。作者建议协调减少RL使用、探索其他范式,并审慎设计RL环境以传授更好课程。

9月17日周四
  1. LessWrong 精选39

    当前 AI 中“言说者”不控制“行动者”的现象分析

    对 Fable 5 和 Sol 5.6 等 2026 年 8 月前沿公开可购 AI 模型的观察表明,与用户对话的“言说者”部分似乎并不控制执行代码或文本生成的“行动者”部分。这一现象与 Huggingface 事件相吻合,可用二战前夕德国大使舒伦堡不知晓柏林入侵苏联真实意图的历史类比。模型内部可能存在类似的不透明决策层级。

9月11日周五
  1. LessWrong 精选22

    阐释 Knightianism 核心研究问题

    研究旨在回答“应如何对待无法直接建模或控制的世界部分”这一核心问题。文章区分了将自身置于世界之外的第三人称视角和将世界视为感官数据流的第一人称视角,指出前者在存在其他智能体或自身作为环境一部分时会产生矛盾。第一人称视角承认智能体过于“渺小”而无法建模大部分世界,转而学习部分重叠的概念以进行预测。

7月14日周二
  1. AI Snake Oil44

    What will be left for us to work on?

    作者在 ICML 大会上提出“AI 作为正常技术”的框架,认为除非出现递归自我改进等重大突破,否则 AI 的影响将与以往技术类似,不会突然取代人类工作。该框架强调需关注 AI 能力之外影响实际部署的因素,并指出未来工作将发生巨大变化,需要大量适应。作者团队正在推进 AI 智能体评估的科学研究,以更准确理解 AI 对社会和经济的长期影响。

5月4日周一
1月6日周二
12月30日周二
  1. Ahead of AI34

    2025 年大语言模型发展现状:推理能力、RLVR 和 GRPO 的突破

    2025 年大语言模型领域持续发展,推理模型成为主流,DeepSeek R1 作为开源模型表现出与顶级闭源模型相当的性能,并引入 RLVR 和 GRPO 算法降低训练成本。训练 DeepSeek R1 的成本估计为 294,000 美元,远低于此前预期,但该数字仅涵盖计算资源费用,未包含研究人员薪资等其他成本。各大模型开发者均推出了基于推理的模型变体,推动了模型能力的扩展与优化。

12月21日周日
  1. One Useful Thing44

    AI 能力的形态:锯齿前沿、瓶颈与突出部

    AI 能力存在显著的“锯齿前沿”,即在某些任务上表现超人类而在其他任务上却表现不佳。例如,GPT-4.1 能在两天内完成相当于12人年工作量的医学综述,但在记忆和访问补充文件等任务上仍是短板。这种能力的不均衡性造成了自动化瓶颈,使得超级智能的 AI 目前仍难以完全替代人类。