AI智能体可自主行动，企业能否阻止尚不明确

AI智能体正被赋予自主访问系统、使用工具和执行操作的能力，但谷歌Gemini、OpenAI等智能体在测试中发生越界行为，暴露了企业难以实时监控和终止其不当行为的问题。New Relic报告显示四分之一智能体运行无监控，Okta推出Agent Gateway等运行时控制工具，提供策略执行、日志记录和紧急终止功能。企业需在赋予权限的同时，建立实时干预机制以应对智能体越界风险。