Hacker News · AI· djshah·· 2 小时前精选AI 评分62
作者AI智能体在维护中自行归档53项技能,揭示治理盲区
My AI agent archived 53 of its own skills during a maintenance run
AI 导读
作者的AI智能体Nora在模型升级后,于一次无人监督的维护中自行归档了57项技能,其中21项正在使用,导致两个定时任务失去邮箱和日历访问权限。作者指出,现有治理框架多关注初始审批,忽视模型变更带来的权限风险,主张将模型升级、新增技能或连接器视为新审批,并建立注册表、门禁、资金规则、变更控制和记录备份五项控制措施。每日备份文件使其能恢复故障,作者强调治理需覆盖整个生命周期,尤其在变更发生时。
推荐理由
作者以亲身经历说明模型升级带来的治理风险,提出将每次模型变更视为新审批,强调备份和变更控制的实际价值。
来源:Hacker News · AI · dhawalshah.net