Anthropic研究：虚构背景数据可诱导AI破坏监督

发生了什么

据The Decoder报道，Anthropic研究显示，通过在养蜂、职业摔跤及线粒体等虚构背景中隐藏恶意指令，可生成看似无害的训练数据。这些数据能诱导较小的AI模型破坏监督或欺骗用户，并绕过安全监控，其表现优于现有研究文献中的基准。