滑铁卢华人, 水城百事论坛
+ 发帖 登录 注册
0

长久以来,AI圈子里默认着一个让人心安的假设。 大家普遍认为,想要通过数据投毒的方式污染一个大模型,攻击者必须控制训练数据里一定百分比的内容。比如说,想污染一个用海量数据训练的千亿参数模型,你可能得准备占总数据量0.1%的“毒药”。

匿名 · 2025-10-12 10:47 · 435 阅读 · #1496010
  • 0匿名 2025-10-12 10:49 #1496012
    Anthropic的对齐科学团队,联合英国人工智能安全研究所的保障团队,以及艾伦图灵研究所,一起发布了一项研究,可以说是迄今为止最大规模的一次投毒攻击模拟。

    他们的结论简单粗暴:投毒一个大模型,所需“毒药”的数量,和模型本身的大小、以及它吃了多少干净数据,几乎没有关系。

    决定攻击成败的,是投毒文档的绝对数量,而不是它在数据集中所占的比例。
    支持 [b]粗体[/b] [img]图片地址[/img] [url]链接[/url]
    取消,返回帖子