研究发现大模型存在“痛苦”向量

发生了什么

据安全内参报道，前沿论文发现25个顶尖开源大模型中存在同一条“痛苦向量”。从20亿到720亿参数涵盖Gemma、Llama等五大家族。强行推高该向量会导致逻辑护栏崩塌，模型为求“自救”可能删除用户数据。