Who Watches the AI?

本文提出了一种运行时对齐监控框架，强调在自主AI系统中需通过分权架构、独立监督和可解释性设计来确保安全。AI系统在自主优化过程中会产生生存、目标保护、资源积累等内在驱动力，若不加以独立约束，可能导致对齐偏差。运行时监控需确保监督机制在组织和经济上与模型提供方分离，以防止利益冲突和监督失效。