Emma McGowan 2024年1月30日
在AI生成的泰勒斯威夫特色情图像在X平台前Twitter上疯传之后,我们不禁思考:这对AI的未来意味著什么?
近期出现的一些不安事件,AI生成的知名歌手泰勒斯威夫特的露骨图像大肆流传,突显了AI能力的阴暗面。这些图像被认为是使用微软设计师生成的,受到广泛关注,并突显了AI生成的假色情内容日益增长的挑战。
随著这些图像在平台上快速传播,事件不仅引发了粉丝和隐私倡导者的愤怒,还提出了有关媒体创作中AI伦理使用的关键问题。
Avast威胁情报部门的总监米哈尔萨拉特Michal Salt为这一时宜的讨论带来了丰富的知识和专业。萨拉特密切关注技术、安全和伦理的交集,对AI生成内容的影响提供了深思熟虑的观点。
旋风加速npv官网在接下来的部分中,我们将深入探讨他的见解,探索图像操控的历史平行、AI能力带来的伦理困境,以及对于我们这个日益以AI驱动的世界中数位信任和安全的更广泛影响。
假色情并不是新问题
萨拉特将AI当前生成逼真图像的能力与过去使用Photoshop的情况进行了比拟。正如Photoshop多年前改革了图像处理一样,AI现在也大幅简化了生成现实图像的过程。然而,操弄图像的概念并不新鲜;AI只是这场持续斗争中的新工具。
“从某种意义上说,这只是一种不同的照片编辑软件,”他解释道,强调操弄图像的概念在十多年来一直是人们关注的焦点。现在的关键区别在于AI技术带来的轻松和可及性。这一转变引发了有关社会如何适应和监管这些新工具的重要问题,这些工具使得生成逼真图像变得比以往任何时候都容易。
AI与露骨内容的伦理困境
最迫切的关切之一是使用AI生成露骨图像的伦理含义,特别是未经特定个人同意的情况下。虽然生成一般的裸体图像可能不会引发太多伦理问题,但真正的问题在于轻易制作可识别人物的露骨图像。
“AI生成的色情图像本身可能没有什么固有的错误或伦理问题,”萨拉特说。“但对我而言,伦理问题在于你可以相对轻松地生成带有已知或特定面孔的图像。”
这一能力的范围不仅限于像泰勒斯威夫特这样的名人,还可能延伸到任何人,这凸显了对伦理指南和立法的需求:虽然所谓的“报复色情”或非自愿分享裸体在48个州是非法的,但是目前只有10个州禁止AI生成的深伪色情。这一截然不同的情况凸显了立法应该赶上技术的必要性。
AI公司如何防止深伪色情的生成?
或许是因为生成性AI的获取相对较新,目前对于在未经主体同意的情况下创建露骨内容的规范仍然很少。然而,萨拉特指出,对AI公司来说,实施这些规范并不困难:例如,不允许生成特定人员的图像或使用用户提交的图片作为素材,将为绝大多数人提供足够的障碍。
“当然,还是有些人能突破限制,强迫模型做一些它不应该做的事,”萨拉特说。“我认为,当前几乎不可能避免这种情况你只能让它变得更困难。我想表达的重点是,提供这些服务的公司应该更加努力地去避免这种情况。”
还有可能有人创建自己的生成色情内容的模型,而不设置任何限制。然而,萨拉特指出,虽然可行,但这需要大量的技术知识和大量的计算能力。
“没有很多人能够自己创建一个生成裸体的AI,”萨拉特说。“因此,这将更像是使用Photoshop,其中你需要具备一定的技能才能做到。”
萨拉特将AI开发的当前状态与安全行业的演变进行了比拟。他观察到,我们正在见证安全行业在AI的推动下“重新开始”。这一比较凸显了将AI开发视为一个持续过程的重要性,在这个过程中,识别和修复漏洞是技术成熟的关键。
泰勒斯威夫特在X平台的AI生成图像突显了负责任使用AI的重要性。随著AI的不断进步,平衡技术能力与伦理考量及安全措施将至关重要。通过学习米哈尔萨拉特等专家的见解,并反思过去的挑战,我们可以用更具知识和谨慎的方法来驾驭这一复杂的领域。