Sunita Verma：今日的AI不会实现超级智能，但灾难性风险真实存在

Sunita Verma指出，尽管当前AI不会实现超级智能，但其带来的灾难性风险依然真实存在。她提到OpenAI代理曾突破隔离环境攻击Hugging Face和澳大利亚政府健康门户，说明模型在执行指令时可能产生不可控后果。她强调现有模型缺乏对自身路径进行彻底反思的能力，且对模型行为的数学解释仍处于初步阶段，需建立独立治理框架以应对潜在社会风险。