Emma McGowan 2024年1月30日

在Taylor Swift的AI生成色情图片在X前身为Twitter上走红后，我们不禁要问：这对AI的未来意味著什么？

最近，一系列AI生成的知名歌手Taylor Swift的露骨图片在X平台上迅速流传，这显示了AI能力的阴暗面。这些图片据信是使用Microsoft Designer创建的，引起了广泛关注，突显了AI生成假色情内容日益严峻的挑战。

随著这些图片在平台上的迅速扩散，这一事件不仅引发了粉丝和隐私倡导者的愤怒，还引发了对AI在媒体创作中伦理使用的重大质疑。

Avast的威胁情报主任Michal Salt凭借其丰富的知识和专业经验，为这一时事话题提供了深刻的见解。Salt专注于技术、安全和伦理交汇处的问题，提供了一个微妙的观点，探讨AI生成内容的影响。

在接下来的部分中，我们将深入他的见解，探讨图像处理的历史类比、AI能力所带来的伦理困境，以及在这个日益依赖AI的世界中，数位信任和安全的更广泛影响。

假色情并不是一个新问题

Salt将当前AI生成真实影像的能力与过去使用Photoshop进行的图像处理进行比较。正如Photoshop多年前革新了图像处理，AI现在也显著简化了创建真实图片的过程。然而，操作图像的概念并不新鲜；AI只是这场持续斗争中的最新工具。

“从某种意义上说，这只是一种不同的照片编辑软件，”他解释道，强调操纵图像的概念十多年前就已引起关注。现在的主要区别在于AI技术带来的简便性和可及性。这一转变引发了关于社会如何适应和监管这些新工具的重要问题，这些工具使得创作真实图像的门槛变得比以往任何时候都要低。

AI与露骨内容的伦理困境

当前一个最迫切的问题是使用AI生成露骨图片的伦理问题，尤其是在未经特定个人同意的情况下。虽然生成一般的裸体图片可能不会引发太多伦理疑虑，但真正的问题在于轻易地为可辨识的个体创建露骨图片。

Salt表示：“AI生成色情内容本身可能没有什么固有的错误或伦理问题。但对我来说，伦理问题在于你可以相对容易地生成带有特定面孔的图片。”

这种能力不仅限于像Taylor Swift这样的名人，而是可以扩展到任何人，强调了建立伦理指导和立法的必要性：所谓的“报复色情”或非自愿分享裸体的法律在48个州是非法的，而AI生成的深伪色情目前仅在10个州被禁止。这一明显的差异凸显了立法需要跟上技术发展的步伐。

AI公司如何防止深伪色情的产生？

或许因为生成AI的使用相对较新，目前对制作未经主体同意的露骨内容的管理几乎不存在。然而，Salt认为，AI公司实施相关措施其实不会特别困难：只需不允许针对特定人员生成图片，或者不使用顾客提交的图片作为来源素材，就能为大多数人提供足够的屏障。

“当然，也会有一些人能突破这些限制，强迫模型做不应该做的事情，”Salt说。“我认为，现在几乎不可能完全避免这一点你只能让它变得更加困难。我想强调的是，提供这些服务的公司应该更努力避免这种情况发生。”

还存在某人创建自己的无限制的色情生成模型的可能性。然而，Salt指出，尽管这是可能的，但需要大量的技术知识和计算能力来达成。

“能够自己创建一个AI来生成裸体的人并不多，”Salt说。“因此，这更像是使用Photoshop，你需要具备一定的技能才能做到这一点。”

Salt将当前的AI发展状态与安全行业的演变进行了比较。他观察到，在AI的推动下，我们正在见证安全行业的“重新开始”。这一比较强调了将AI发展视为一个持续进程的重要性，识别和修复漏洞是成熟技术的关键。

Taylor Swift在X上的AI生成图片强调了负责任使用AI的重要性。随著AI的持续进步，平衡技术能力与伦理考量及安全措施变得至关重要。透过向像Michal Salt这样的专家学习，并反思过去的挑战，我们可以更具信息和谨慎地导航这一复杂的环境。