自然科学家和硬件工程师在AI安全中的角色

自然科学家和硬件工程师在AI安全领域的作用被低估，尽管AI可能通过操控物理系统或引发网络攻击造成现实危害，但相关研究仍主要由软件工程师主导。物理世界中的确定性、混沌性和随机性系统可为AI安全提供基于物理的加密和诱捕等工具，但这些视角尚未被充分纳入讨论。AI安全社区目前聚焦于对齐和软件检测，缺乏跨学科合作，若AI安全确实重要，需弥合这一文化鸿沟。