[水城百事] 长久以来,AI圈子里默认着一个让人心安的假设。 大家普遍认为,想要通过数据投毒的方式污染一个大模型,攻击者必须控制训练数据里一定百分比的内容。比如说,想污染一个用海量数据训练的千亿参数模型,你可能得准备占总数据量0.1%的“毒药”。 - ;
25-10-12,10:47 更新: 25-10-12,13:25 4 回复
- 这个假设就像一道天然的护城河。因为大模型的训练数据量是天文数字,哪怕是0.1%,换算下来也是一个不切实际的庞大数据量。想搞这么多数据,难度堪比登天,所以大模型似乎天生就对这种投毒有“规模免疫力”。 … - ; 25-10-12,10:48 回复
- Anthropic的对齐科学团队,联合英国人工智能安全研究所的保障团队,以及艾伦图灵研究所,一起发布了一项研究,可以说是迄今为止最大规模的一次投毒攻击模拟。 … - ; 25-10-12,10:49 回复
- 原文链接 ↗ - ; 25-10-12,10:50 回复
- 这才是AI应该有的样子,永远比人脑低一等,错了也不知道,还会胡说八道,无法创造只会照搬你给的东西。这就足够了,否则AI一旦觉醒了自我意识,倒霉的就是全人类,它太清楚如何毁灭你了,你把所有的弱点全部都告诉他它知道,这一点它门清,知道绝对不会掺假。 - ; 25-10-12,13:25 回复








