“逆向博弈论”如何控制 AI 智能体

一种名为“逆向博弈论”的新方法试图通过设计激励机制来控制强大 AI 模型，使其遵守规则。该方法借鉴现实中的机制设计，如蛋糕分割策略和第二价格拍卖，以促使 AI 智能体表现出期望的行为。研究者提出让 AI 模型轮流担任“求解者”或“审计者”，并根据行为结果进行奖励或惩罚，以减少违规风险。