研究员拒绝利用漏洞数据训练AI模型

发生了什么

据X平台用户@0x0SojalSec报道，安全研究员Jun Song拒绝了匿名组织提供的报酬，该组织曾要求其利用海量漏洞数据训练开源AI模型。Jun Song表示，一旦此类模型权重生成，黑客攻击技能将变得可被自由复制且永久存在。他指出，即便使用极小比例的漏洞数据，白帽AI研究已能超越前沿模型，因此担忧将大规模攻击性数据集应用于开源模型会带来严重安全风险。