2024-12
泰勒斯威夫特的深伪色情影片并不新鲜但这并不意味著我们不应该关心这个问题。
艾玛麦戈万 2024年1月30日
在AI生成的泰勒斯威夫特色情图片在X前身为Twitter上疯传之后,我们不禁要问:这对AI的未来意味著什么?
最近,AI生成的知名歌手泰勒斯威夫特的色情图片突然在X平台上泛滥,展现了AI能力的阴暗面。这些图片被认为是使用微软设计师创作的,吸引了广泛关注,突显了AI生成假色情内容日益严峻的挑战。
随著这些图片迅速在平台上扩散,此事件不仅引发了粉丝和隐私倡导者的愤怒,也提出了有关AI在媒体创作中的道德使用的重要问题。
Avast的威胁情报总监米哈尔萨拉特拥有丰富的知识和专业经验,能够为这一时事提供深入的见解。萨拉特密切关注技术、安全性与伦理之交叉,对AI生成内容的影响持有独到的看法。
在接下来的部分中,我们将深入探讨他的见解,包括影像处理的历史类比、AI能力所带来的伦理困境,以及在这个日益受AI驱动的世界中对数字信任和安全的更广泛影响。
假色情问题不是新问题
萨拉特将当前AI生成逼真图片的能力与过去Photoshop的使用相提并论。就像Photoshop多年来彻底改变了图像处理一样,AI现在也使得创造真实的图片变得更加容易。然而,操作图片的概念并不新鲜;AI只是这一持续故事中的最新工具。
“在某种程度上,这只是另一种照片编辑软件,”他解释说,强调图像操控的概念已经存在十多年。现在的关键区别在于AI技术所带来的便利性和可获得性。这一变化引发了有关社会如何适应和规范这些新工具的重要问题,因为这些工具使得创造逼真图片的门槛比以往任何时候都更低。
AI与显露内容的伦理困境
最迫切的关切之一是使用AI生成显露图片的伦理影响,特别是在未经个人同意的情况下生成特定个体的图片。尽管生成通用的裸体图片可能不会引发太多伦理问题,但真正的困扰在于创建可识别个体的显露图片的便利性。
“AI生成的色情内容本身并没有什么固有的错误或伦理问题,”萨拉特说。“但至少对我而言,伦理问题在于你可以相对容易地生成一张带有某个已知或特定面孔的图片。”
这一能力延伸至不仅是泰勒斯威夫特这样的名人,还可能涵盖任何人,强调了建立伦理准则和法规的必要性:虽然所谓的“报复色情”或未经同意分享的裸体图片在48个州是违法的,但目前AI生成的深伪色情仅在10个州被禁止,这一明显差异强调了法规需要与技术同步的迫切性。
AI公司如何防止深伪色情的产生?
或许因为生成AI的接入相对较新,创建显露内容而不需要主体同意的守护措施较少。然而,萨拉特认为,对AI公司来说,实施这些措施并不会非常困难:简单地不允许生成特定人物的图片,或者不使用客户提交的图片作为源材料,就能为大多数人提供足够的阻碍。
“当然,有些人可以突破这些限制,迫使模型做它不应该做的事情,”萨拉特说。“我认为,目前几乎不可能避免这一点你只能让它变得更难。我想表达的是,提供这些服务的公司应该更努力地避免这种情况。”
还有可能有人创建自己的色情生成模型,没有任何限制。不过,萨拉特指出,即使这样做是可能的,这需要大量的技术知识和计算能力。
“能够自己创建一个AI来生成裸体图像的人并不多,”萨拉特说。“所以,这更像是使用Photoshop,需要有一定的技能水平才能做到。”
萨拉特将目前的AI发展状态与安全行业的演变相提并论。他观察到,我们正在见证安全行业“从头开始与AI一起重建”。这一比较强调了将AI发展视为持续过程的重要性,识别并修复漏洞是技术成熟的关键。
黑洞加速官网下载泰勒斯威夫特在X上生成的AI图片强调了负责任使用AI的重要性。随著AI的持续进步,平衡技术能力与伦理考量及安全措施将至关重要。通过向像米哈尔萨拉特这样的专家学习,并反思过去的挑战, 我们可以用更知识渊博和谨慎的方式驾驭这一复杂的环境。