Nightshade:艺术家全新还击对象可用损坏演习数据“危害”AI模型

1. 艺术家反击AI:艺术家可以利用一种名为Nightshade的新工具，向他们的图像注入隐形的像素，使AI模型产生缺点的认知。

2. 背景:AI公司依赖大量的演习数据，包括来自艺术家的创作，引发了一系列法律诉讼。

3. 希望与风险:Nightshade的开拓者希望通过这一工具重塑AI与艺术家之间的权力平衡，但也承认可能被滥用。

站长之家(ChinaZ.com) 10月24日 :自 ChatGPT 险些一年前登场以来，天生式人工智能（AI）进入了高速发展的时期，但反对声音也逐渐增强。
许多艺术家、娱乐人士、演出者乃至唱片公司已经对AI公司提起了诉讼，个中一些诉讼涉及 ChatGPT 制造商 OpenAI，缘故原由是这些新工具背后的“秘密武器”:演习数据。

也便是说，这些AI模型须要访问大量的多媒体内容并从中学习，包括艺术家创作的笔墨材料和图像，而这些艺术家既没有事先知道，也没有机会反对他们的作品被用于演习新的商业AI产品。

图源备注：图片由AI天生，图片授权做事商Midjourney

在这些AI模型的演习数据集中，许多包括从网络上抓取的材料，这一做法在用于索引他们的材料以供应搜索结果时，以前大多受到艺术家的支持。
但现在，许多人已经反对这种做法，由于它许可通过AI创建竞争性作品。

纵然没有提起诉讼，艺术家也有机会利用技能来对抗AI。
麻省理工技能评论杂志提到了一个还在开拓中的名为Nightshade的新开源工具。
艺术家可以将Nightshade添加到他们的图像中，然后上传到网络，这个工具可以以一种对人眼隐形的办法改变像素，但对寻求对其进行演习的AI模型来说，却“毒害”了艺术品。

Nightshade由芝加哥大学的研究职员在打算机科学教授Ben Zhao的辅导下开拓，并将作为其先前产品Glaze的可选设置添加，Glaze是另一款在线工具，可以粉饰数字艺术品并改变其像素以稠浊AI模型对其风格的认知。

就Nightshade而言，艺术家对抗AI的反击更进一步:它使AI模型学习缺点的物体和景物名称。
例如，研究职员通过在像素中注入信息，让图像中的狗看起来像猫。
在仅对50张被“毒害”的图像样本进行采样和学习后，AI开始天生具有奇怪腿和不安视觉效果的狗的图像。
在100张毒害样本之后，当用户哀求天生一只狗时，它可靠地天生一只猫。
经由300张毒害样本后，任何对猫的要求都会返回一个险些完美的狗。

研究职员利用了开源的文本到图像天生模型 Stable Diffusion 来测试Nightshade，并得到了上述结果。
由于天生式AI模型的事情办法的特性，即将观点上相似的词语和想法分组为称为“嵌入”的空间集群，Nightshade还成功追踪 Stable Diffusion 并在利用“哈士奇”、“小狗”和“狼”这些词语提示时返回猫的图像。

此外，Nightshade的数据毒害技能难以防御，由于它须要AI模型开拓职员打消包含被毒害像素的任何图像，而这些像素是经由设计的，对人眼来说并不明显，乃至可能连软件数据抓取工具也难以检测到。

已经被摄入到AI演习数据集中的任何被毒害的图像也须要被检测并移除。
如果AI模型已经在其上进行了演习，那么它很可能须要重新演习。

只管研究职员承认他们的事情可能被恶意利用，但根据麻省理工技能评论杂志对他们事情的文章，他们“希望通过这一工具帮助重塑AI公司与艺术家之间的权力平衡，从而创建一个强大的威慑力，防止陵犯艺术家的版权和知识产权”。

根据该宣布，研究职员已将他们关于制作Nightshade的事情提交给打算机安全会议Usinex的同行评审。