作者:美联社
纽约(美联社)-人工智能成像可以用来创作艺术，在虚拟试衣间试穿衣服或帮助设计广告活动。
但专家们担心，这些容易获得的工具的阴暗面可能会恶化一些主要伤害女性的东西:未经双方同意的深度伪造色情作品。
深度造假是通过人工智能或机器学习进行数字创作或修改的视频和图像。几年前，一名Reddit用户分享了一段视频，将女明星的脸放在色情演员的肩膀上，用这项技术制作的色情作品首次在互联网上传播开来。
从那时起，deepfake的创作者就开始传播类似的视频和图像，目标是网红、记者和其他有公众形象的人。成千上万的视频存在于大量的网站上。有些公司还为用户提供了创建自己形象的机会——基本上允许任何人在未经同意的情况下将自己想要的人变成性幻想对象，或者使用技术伤害前伴侣。
专家表示，随着制作复杂且视觉上引人注目的深度造假变得越来越容易，这个问题也变得越来越严重。他们表示，随着生成式人工智能工具的发展，情况可能会变得更糟，这些工具接受来自互联网的数十亿张图像的训练，并利用现有数据吐出新的内容。
EndTAB的创始人亚当·道奇(Adam Dodge)说，“现实情况是，这项技术将继续扩散，继续发展，并将继续变得像按下按钮一样简单。”EndTAB是一家提供技术滥用培训的组织。“只要这种情况发生，人们无疑会……继续滥用这项技术来伤害他人，主要是通过在线性暴力、深度造假色情和假裸照。”
来自澳大利亚珀斯的诺艾尔·马丁(Noelle Martin)就经历过这样的现实。28岁的她在10年前出于好奇用谷歌搜索自己的照片时发现了自己的deepfake色情照片。直到今天，马丁说她不知道是谁创造了她性交的假图像或视频，她后来才发现。她怀疑有人在她的社交媒体页面或其他地方拍了一张照片，然后把它做成了色情片。
吓坏了，马丁联系了好几年不同的网站，试图把这些照片撤下来。有些人没有回应。别人把它取下来了，但她很快又把它捡了起来。
“你赢不了。”马丁说。“这是一种永远存在的东西。就好像它永远毁了你。”
她说，她说得越多，问题就越严重。一些人甚至告诉她，她的穿着和在社交媒体上发布照片的方式导致了骚扰，基本上是指责她而不是照片的创作者。
最终，马丁将注意力转向立法，倡导澳大利亚制定一项国家法律，如果公司不遵守网络安全监管机构对此类内容的删除通知，将被罚款555,000澳元(370,706美元)。
但是，当各国都有自己的法律来管理世界另一端的内容时，管理互联网几乎是不可能的。马丁目前是西澳大利亚大学的一名律师和法律研究员，她说她认为这个问题必须通过某种全球性的解决方案来控制。
与此同时，一些人工智能模型表示，它们已经限制了对露骨图像的访问。
OpenAI表示，它从用于训练图像生成工具DALL-E的数据中删除了明确的内容，这限制了用户创建这类图像的能力。该公司还过滤请求，并表示它会阻止用户创建名人和著名政治家的人工智能图像。Midjourney是另一种模式，它会阻止某些关键词的使用，并鼓励用户将有问题的图片标记给版主。
与此同时，初创公司Stability AI在11月推出了一项更新，取消了使用其图像生成器Stable Diffusion创建显式图像的功能。此前有报道称，一些用户使用该技术创作名人裸照。
Stability AI的发言人Motez Bishara说，这款过滤器结合了关键词和图像识别等其他技术来检测裸体，并返回模糊的图像。但由于该公司向公众发布了代码，用户有可能操纵软件并生成他们想要的东西。比沙拉说，Stability AI的许可证“扩展到基于Stable Diffusion的第三方应用程序”，并严格禁止“任何出于非法或不道德目的的滥用”。
一些社交媒体公司也在收紧规则，以更好地保护自己的平台不受有害内容的影响。
抖音上个月表示，所有展示真实场景的深度造假或经过篡改的内容都必须贴上标签，以表明它们是假的或以某种方式进行了修改，而且不再允许对私人人物和年轻人进行深度造假。此前，该公司禁止了色情内容和深度造假，这些内容会误导观众对现实世界事件的看法并造成伤害。
游戏平台Twitch最近也更新了关于露骨深度造假图像的政策，因为在1月底的一次直播中，一位名叫atriric的受欢迎主播被发现在他的浏览器上打开了一个深度造假色情网站。该网站展示了Twitch主播的虚假图片。
Twitch已经禁止了露骨的深度造假，但现在展示了这样的内容——即使它是为了表达愤怒——“将被删除，并将导致执法，”该公司在一篇博客文章中写道。而故意宣传、创作或分享这些内容将被立即禁止。
其他公司也试图在其平台上禁止深度造假，但阻止它们需要勤奋。
苹果和谷歌最近表示，他们已经从应用商店下架了一款应用程序，该应用程序在营销产品时播放了带有性暗示的深度伪造女演员视频。对深度假色情的研究并不普遍，但人工智能公司DeepTrace Labs在2019年发布的一份报告发现，它几乎完全是针对女性的武器，最受攻击的对象是西方女演员，其次是韩国流行歌手。
谷歌和苹果下架的同一款应用在meta的平台(包括Facebook、Instagram和Messenger)上投放了广告。meta发言人Dani Lever在一份声明中表示，该公司的政策限制了人工智能生成和非人工智能的成人内容，并限制了该应用程序页面在其平台上的广告。
今年2月，meta以及onlyFans和Pornhub等成人网站开始参与一个名为“Take It Down”的在线工具，该工具允许青少年报告自己在互联网上的露脸图像和视频。该报告网站适用于常规图像和人工智能生成的内容，这已成为儿童安全组织越来越关注的问题。
“当人们问我们的高层领导，我们担心的是从山上掉下来的巨石是什么?第一个是端到端加密，这对儿童保护意味着什么。其次是人工智能，特别是深度造假，”国家失踪和受剥削儿童中心发言人加文·波特诺伊说，该中心运营着“把它拿下来”工具。
“我们没有……还没能对它做出直接回应。”波特诺伊说。
