泰勒斯威夫特的深伪色情影片并不是新鲜事但这并不意味著我们不应该感到担忧。
  • 25

Emma McGowan 2024年1月30日

火烧云npv加速器

在泰勒斯威夫特的AI生成色情图片在X前身是Twitter上走红后,我们不禁思考:这对未来的AI意味著什么?

最近,一系列AI生成的泰勒斯威夫特露骨图片在X平台上引起轰动,展示了AI能力的阴暗面。这些被认为是使用Microsoft Designer创建的图片引起了广泛关注,突显了AI生成假色情内容日益增长的挑战。

随著这些图片迅速在平台上扩散,这一事件不仅引发了粉丝和隐私倡导者的愤慨,还提出了有关AI在媒体创作中的伦理使用的重大问题。

Avast威胁情报总监米哈尔萨拉特Michal Salt带来了丰富的知识和专业见解,为这场时事讨论提供了深刻的视角。萨拉特关注技术、安全和伦理的交汇点,并提出了AI生成内容的含义。

在接下来的部分中,我们将深入探讨他的见解,研究图像操控的历史平行、AI能力带来的伦理困境,以及在日益依赖AI的世界中,数字信任和安全的更广泛影响。

假色情不是新问题

萨拉特将当前AI生成逼真图片的能力与过去Photoshop的使用做了比较。正如Photoshop在几年前彻底改变了图像处理,AI如今也使得创造现实图片变得更加容易。然而,操控图片的概念并不新鲜;AI只是这个持续故事中的最新工具。

“这在某种程度上只是另一种照片编辑软体,”他解释道,强调操控图片的概念在十多年来始终是一个关注点。如今的关键区别在于AI技术所带来的便利性和可获取性。这一变化引发了重要问题,关于社会如何适应并规范这些新工具,因为这些工具使得创造现实图片比以往任何时候都更容易。

AI和露骨内容的伦理困境

最紧迫的问题之一是使用AI生成露骨图片的伦理意涵,尤其是针对特定个体且未获得他们的同意时。虽然生成一般的裸露图片可能不会引起太多的伦理问题,但真正的问题在于轻易产生可识别人物的露骨图片的能力。

“AI生成色情图片本身可能没有固有的错误或伦理问题,”萨拉特表示。“但对我来说,伦理问题在于,你可以相对轻易地生成一张带有已知或特定脸部的图片。”

这一能力不仅限于像泰勒斯威夫特这样的名人,而是扩展到潜在的任何人,强调了制定伦理指导方针和立法的必要性:虽然所谓的“报复色情”或非自愿分享裸照在48个州是违法的,但AI生成的深伪色情目前仅在10个州被禁止。这显示出科技与立法的差距。

AI公司如何防止生成深伪色情?

也许因为生成AI的接触相对较新,对于在未获得当事人同意的情况下创建露骨内容的行为目前缺乏保护措施。然而,根据萨拉特的说法,对于AI公司来说,实施措施并不会太困难:仅仅是不允许生成特定人的图片或使用客户提交的图片作为素材来源,就可以为绝大多数人提供足够的屏障。

“当然,有些人能够打破限制,强迫模型做一些它不该做的事情,”萨拉特表示。“目前来看,这几乎不可能完全避免只能让这件事变得更难。我想强调的是,提供这些服务的公司应该更加努力避免这种情况。”

还有可能会有人创建自己的无限制色情生成模型。萨拉特指出,尽管这是有可能的,但需要很高的技术知识和大量的计算能力才能实现。

泰勒斯威夫特的深伪色情影片并不是新鲜事但这并不意味著我们不应该感到担忧。

“能够自己创建生成裸照的AI的人并不多,”萨拉特说。“因此,这更像是使用Photoshop,你需要具备一定的技术才能做到。”

萨拉特将目前AI发展的状态与安全行业的演变进行了比较。他观察到,我们正见证安全行业在AI方面“重新开始”。这一比较强调了将AI发展视为一个持续过程的重要性,在这个过程中,识别和修复漏洞是技术成熟的关键。

在X上出现的泰勒斯威夫特AI生成图片强调了负责任使用AI的重要性。随著AI不断进步,平衡技术能力与伦理考量及安全措施将至关重要。通过向像米哈尔萨拉特这样的专家学习,并反思过去的挑战,我们可以以更有见地和谨慎的方式驾驭这一复杂的环境。