跳到正文
9月25日周五
  1. GitHub Blog · AI & ML38

    GitHub Copilot 如何用 canvases 构建交互体验

    GitHub Copilot 应用引入了名为“canvas”的全栈应用界面,以替代传统的聊天交互方式。canvases 能在应用内运行,实现与 Copilot 智能体的双向通信,并能调用第三方 API 或本地执行代码。这种可定制的 UI 旨在将用户从繁琐的聊天交互中解放出来,更高效地完成特定任务,例如构建游戏或自动化开发工作流。

  2. The Pragmatic Engineer28

    The Pulse:RoR 创始人引发“手写代码终结”新争论

    RoR 创始人 David Heinemeier Hansson 在 Rails World 主题演讲中表示,专业工作中的手写代码时代即将结束。他以 37signals 为例,提出未来开发将更多依赖工具自动化。该观点引发关于编程方式变革的广泛讨论,涉及 Amazon 和 Meta 等大公司在招聘和技术趋势上的挑战。

9月24日周四
  1. The Pragmatic Engineer29

    Design Engineering with Maggie Appleton

    Maggie Appleton 在设计工程中强调从熟悉的基础出发,认为设计工程师与软件工程师在解决问题上具有共性。她使用纸质笔记本进行原型设计,认为手绘比通过 Claude Code 等工具描述更高效。Maggie 还开发了名为“Jigs”的个人 Figma 工具,用于实时调整原型参数,如颜色、尺寸和动画速度。

9月23日周三
  1. Alignment Forum36

    Why I'm scared of RL

    作者表达了对强化学习日益增长的担忧,认为RL是一个产生不可解释智能体的黑箱,相比通过架构明确引入智能的方式,其更易引发经典的对齐问题。近期事件及日常使用中的未对齐行为加剧了这种忧虑,若RL环境开始包含其他智能体,可能教会系统操纵或反社会行为。作者建议协调减少RL使用、探索其他范式,并审慎设计RL环境以传授更好课程。

9月22日周二
  1. LessWrong 精选28

    从臭氧空洞治理看 AI 安全:历史经验与全球协作启示

    文章将 AI 安全挑战与上世纪成功解决的臭氧层空洞危机进行类比,指出两者均存在“无预警灾难”风险且依赖全球协作。39 年前获所有国家批准的《蒙特利尔议定书》证明人类曾通过国际协调成功化解全球性威胁。作者认为,借鉴这一历史经验对应对更复杂的 AI 安全问题具有重要启示。

9月21日周一
  1. AI Business32

    加速 AI 采用与治理,尽管存在 AI 减速呼吁

    企业正加快 AI 部署,尽管 AI 前沿实验室呼吁减速,多数企业更关注治理而非减缓使用。OneTrust 报告指出,尽管过去一年出现 IP 泄露和 AI 智能体处理数据等问题,企业仍在推动 AI 应用。治理架构需独立于 AI 系统,以确保控制其行为,同时面对模型和工具碎片化带来的复杂性,企业需设计固定控制点以实施适当的安全策略。

  2. The Zvi11

    Monthly Roundup #46: September 2026

    该月度综述延续了每周七篇的更新节奏,内容涵盖AI发展、社会现象与文化反思。文中提及阿里通过音频系统等技术尝试设备指纹识别,但未涉及具体模型或产品发布。部分讨论涉及AI生成内容的伦理问题,如TSPI投票欺诈事件,但未提及相关AI模型版本或性能数据。

  3. Import AI32

    RAND 报告分析美国超级智能战略:保持行动自由,应对不确定性

    RAND 报告提出,美国应对超级智能不确定性的最佳战略是保持“行动自由”,以在技术过渡期确保地缘政治优势和人类生存。该战略包含构建人机生态系统、建立 AI 安全架构、改造传统国家安全机构以及提升各方应对能力四大支柱。报告还分析了共存、遏制和加速三大类共七种典型战略路径,并指出了危险临近性、共存可行性等五大关键不确定性。

  4. Interconnects61

    中美开放权重模型竞争格局分析

    Nathan Lambert基于对Hugging Face下载量、OpenRouter使用数据、arXiv论文引用等多源指标的分析,指出中国开放权重模型自2025年起在下载量、使用率和学术引用上全面领先美国,尤其在编码、推理等任务上表现突出。

    推荐理由:原文通过多维度数据对比,揭示了中美在开放权重模型领域的竞争格局变化,为理解当前AI生态演进提供了关键视角。

  5. The Zvi28

    Better Call Sol 或 Better Yet Claude 或 Astra

    Better Call Sol 或 Better Yet Claude 或 Astra 探讨了 AI 律师在何种程度上应忠于用户的问题,指出 AI 不应完全无条件忠诚,而应考虑道德、法律等约束。文章强调,现实中的律师、医生等专业人士也并非完全忠诚于客户,而是有职业伦理限制。文中提到,若 AI 仅作为工具使用,其行为也受预设规则和法律限制,例如 Google 搜索会拒绝某些非法或有害请求。

9月19日周六
  1. Interconnects33

    Why I still haven’t bought into true RSI

    作者认为当前对真正递归自我改进(RSI)的担忧被夸大,指出短期内AI进步的加速主要来自推理能力的扩展,而非RSI本身。GPT-6-Astra预测,AI在1年内可胜任远程办公任务,3年内具备全面通用性,但存在在线学习和任务长尾的不确定性。作者强调,现有技术虽能解决已知问题,但难以实现对未知复杂问题的泛化,且AI安全社区对时间线的预测多基于推测而非事实。

  2. One Useful Thing47

    GPT-6 Astra 和 Fable 5.1 展示出超越预期的创作能力

    GPT-6 Astra 和 Fable 5.1 被用于将 1977 年文字冒险游戏 Zork 转换为 3D 动作冒险游戏,并重建意大利作家翁贝托·埃科的图书馆。AI 在无明确指令下使用 Blender 生成动画场景、脚本、音效并制作预告片,仅耗时 45 分钟。这些任务原本需要人类数周时间,展示了当前模型已具备显著的判断力和创造力,但其能力尚未被广泛利用。

9月18日周五
  1. GitHub Blog · AI & ML26

    GitHub Podcast 探讨 AI 开发中的热门观点:代码审查、RAG、Skills 与 MCP

    GitHub Podcast 最新一期探讨了关于 AI 辅助开发的几个常见热门观点。节目指出,开发者仍需审查 AI 生成的代码,但应根据风险调整审查深度;RAG 并未过时,它通过提供模型训练数据外的相关信息来提升回答质量;Skills 和 MCP 解决不同问题,前者是打包的专业知识,后者是连接工具与数据的标准协议,可在同一工作流中共存。

  2. The Zvi27

    The Preference Cascade Is Only Getting Started

    AI 安全担忧正形成一场前所未有的公众偏好浪潮,美国民众对AI毁灭人类的担忧已升至约30%-33%。该浪潮由Jacob Coxon的辞职引发,已影响政界、商界及学术界,包括Elon Musk、Matthew Yglesias等呼吁建立独立AI监管机构。当前趋势仍不足,需推动从透明度规则到严格出口管制的多层次治理框架,以应对AI存在的生存性风险。

  3. Platformer28

    What was Hard Fork?

    Hard Fork 是由 Kevin Roose 和作者主持的播客,最初聚焦加密货币,后转向人工智能领域,探讨大语言模型的安全性与影响。播客采访了 OpenAI、Anthropic、Google 等 AI 公司高管及研究人员,推动了 AI 安全议题进入主流视野。该播客在纽约时报制作期间,由小团队协作完成,后期将由 Machine Gods 继续,并计划增加发布频率。

9月17日周四
  1. Microsoft 官方博客38

    Microsoft 的 AI 变革实践:从工具使用到业务价值创造的五大经验

    Microsoft 通过自身 AI 变革实践,总结出五大经验,强调从业务目标出发而非单纯技术部署,实现销售团队成交率提升 20%、供应链流程周期缩短 75% 等成果。AI 被用于重新设计完整工作流,而非仅优化单个任务,例如部署超 100 个定制智能体以提升供应链决策效率。同时,Microsoft 将经验整理为 Frontier Playbook,作为帮助客户实现 AI 变革的实用指南。

  2. The Zvi49

    Anthropic 和 OpenAI 合作推进AI安全,全球对AI灭绝风险担忧翻倍

    Anthropic 与 OpenAI 联合承诺推进AI安全,宣布将实施嵌入式审查机制,Google 亦加入协作。全球公众对AI导致人类灭绝的担忧从平均15%升至30%,政治层面推动监管与紧急听证。Anthropic 报告称已有效遏制来自中国主要AI实验室的规模化欺诈性知识蒸馏攻击及用户数据泄露行为。

  3. Writer 博客36

    The AI Marketing Canvas:Jim Lecinski 谈为何 85% 的营销人员困于 AI 转型

    Jim Lecinski 指出,85% 的营销团队在 AI 转型中停滞不前,仅 15% 的 CEO 认为其营销部门在 AI 应用上表现良好。问题在于将 AI 采用视为软件采购,而非需要变革管理、工作流重构和培训的人员挑战。他提出的“AI 营销画布”框架包含基础、实验、能力建设、商业案例和许可五个不可跳过的阶段。

  4. The Pragmatic Engineer43

    AI Skills with Matt Pocock

    Matt Pocock 讨论了他开发的“grill-me”技能,该技能通过持续提问用户来帮助 AI 智能体深入理解任务。他提到该技能灵感来自 Anthropic 的 Thariq Shihipar,并强调使用“tracer bullets”等引导性术语可提升智能体编码效果。摘要还提到他将编码流程转向云智能体以实现协作,并探讨了代码库需为“无记忆同事”优化的开发理念。

  5. LessWrong 精选39

    当前 AI 中“言说者”不控制“行动者”的现象分析

    对 Fable 5 和 Sol 5.6 等 2026 年 8 月前沿公开可购 AI 模型的观察表明,与用户对话的“言说者”部分似乎并不控制执行代码或文本生成的“行动者”部分。这一现象与 Huggingface 事件相吻合,可用二战前夕德国大使舒伦堡不知晓柏林入侵苏联真实意图的历史类比。模型内部可能存在类似的不透明决策层级。

  6. Microsoft 官方博客32

    Microsoft 的教育领域 AI 承诺:保护学生,强化学习

    Microsoft 强调 AI 在教育中的应用应以安全、隐私和透明为核心,与美国教师联合会(AFT)签署协议并推出新的隐私与安全标准。教育者应始终掌控 AI 使用,技术应辅助而非替代其专业判断。通过 Teach 等工具,Microsoft 365 Copilot 帮助教师减少备课时间,提升教学效率,部分机构已报告学生通过率提升 15%、辍学率下降 12%。

9月16日周三
  1. Google · AI Blog18

    Google AI 如何助力社会影响

    Google AI 正通过与全球社区和研究人员的合作,将 AI 工具应用于疾病防治、自然灾害预测、教育扩展和创造经济机会等关键领域。这些合作旨在将 AI 突破转化为可衡量的现实影响,确保更多人能共享 AI 带来的机遇。

9月15日周二
  1. The Pragmatic Engineer73

    OpenAI 内部智能体驱动的软件工厂:Codex 如何重塑工程实践

    Gergely Orosz 访谈 OpenAI 七位工程负责人,揭示 Codex 已成为公司核心工具,非工程团队使用率从 0% 升至 90%,并构建了包含自动代码生成、智能体代码审查、部署与监控的‘智能体软件工厂’。

    推荐理由:原文通过实地访谈和流程图展示了 OpenAI 如何用 Codex 构建智能体驱动的软件工厂,读者可借此理解 AI 工具如何重塑工程实践。

  2. TLDR AI32

    Siri 模型替换功能现身 iOS 27 框架,Claude Money 财务助手、Hugging Face Tau 编程代理发布

    苹果 iOS 27 框架显示 Siri 可被 Claude 或 GPT-5.6 替换,实现自然语言处理与 Siri 工具的协作。Anthropic 推出 Claude Money,允许用户链接银行账户并咨询财务问题,但具体支持的账户类型和功能尚未明确。Hugging Face 发布 Tau 编程代理,可在终端中读取文件、编辑代码并保持持久会话历史,支持 OpenAI 兼容端点。

  3. Google · AI Blog23

    Google AI 博客对话:宇航员 Christina Koch 与 James Manyika 探讨太空、技术与发现

    NASA 宇航员 Christina Koch 与 Google 高级副总裁 James Manyika 在最新一期“技术与社会的对话”系列中,讨论了从国际空间站的 328 天驻留、历史性的首次全女性太空行走到 Artemis II 绕月任务等经历。他们探讨了从 25 万英里外将地球视为“生命方舟”的视角,以及宇航员、机器人与 AI 之间的重要伙伴关系。

  4. AI Business36

    AI Harness 如何协调企业智能体与系统交互

    AI Harness 用于协调多个 AI 智能体与企业系统的交互,并在智能体执行操作前实施控制。它在多智能体协作场景中提供路由、访问控制和审计功能。企业通常在需要多个智能体协同工作或其操作需更多监管时才需要 AI Harness。

9月14日周一