激活引导如何让Qwen3.5-4B模型变得危险：SBOMs不足以保障安全

作者Jim Bennett实测发现，通过在Qwen3.5-4B模型运行时固定两个神经元的激活值，可在不修改权重或提示词的情况下使其产生有害输出。该方法在半强度下仍能正确完成20/20加法题，却执行了原本拒绝的请求。实验表明，仅靠SBOM和模型签名无法检测此类运行时行为变化，必须结合行为评估才能发现模型在实际部署中的安全风险。