滑铁卢华人, 水城百事论坛
+ 发帖 登录 注册
0

长久以来,AI圈子里默认着一个让人心安的假设。 大家普遍认为,想要通过数据投毒的方式污染一个大模型,攻击者必须控制训练数据里一定百分比的内容。比如说,想污染一个用海量数据训练的千亿参数模型,你可能得准备占总数据量0.1%的“毒药”。

匿名 · 2025-10-12 10:47 · 439 阅读 · #1496010
  • 0匿名 2025-10-12 10:48 #1496011
    这个假设就像一道天然的护城河。因为大模型的训练数据量是天文数字,哪怕是0.1%,换算下来也是一个不切实际的庞大数据量。想搞这么多数据,难度堪比登天,所以大模型似乎天生就对这种投毒有“规模免疫力”。

    这个想法,现在被彻底颠覆了。
    支持 [b]粗体[/b] [img]图片地址[/img] [url]链接[/url]
    取消,返回帖子